29
点推定
推測統計では、標本から計算した値を使って母集団の母数を推定します。このレクチャーでは、母数を1つの値で推定する点推定と、そのとき推定量に望まれる性質である一致性・不偏性を整理します。
このページのゴール
点推定の考え方を理解し、標本平均・標本分散・不偏分散が一致性や不偏性を満たすかどうかを説明できるようになる。
STEP 01
点推定とは何か
点推定とは、
母集団の母数を、
1つの値でピンポイントに推定する
方法です。
推測統計では、
母集団そのものは直接見えないので、
母集団から抽出した標本を使って、
母数を推定します。
母集団
知りたいのは母平均 \(\mu\) や母分散 \(\sigma^2\)
↓ 抽出
標本
手元にあるデータ
↓ 計算
推定量
標本平均・標本分散など
↓ 点推定
1つの値で母数を示す
たとえば母平均を推定したいなら、
標本から標本平均 \(\bar{X}\) を計算して、
それを母平均 \(\mu\) の推定値として使います。
例
\[
\text{母平均 }\mu \text{ を知りたい}
\]
↓
\[
\bar{X} = 72.4
\]
点推定では「母平均は 72.4 くらい」と
1つの値で表す
ここがポイント
点推定は、標本から計算した推定量を使って、
母数を1つの値で推定する方法。
STEP 02
良い推定量の2つの性質
ただし、
点推定に使う推定量は何でもよいわけではありません。
母数を推定するのにふさわしい性質として、
とくに重要なのが
一致性と不偏性です。
一致性
\(n\) を大きくすると、推定量が母数へ近づく
\[
\hat{\theta}\xrightarrow{P}\theta
\]
サンプルサイズ \(n\) を大きくしたとき、
推定量 \(\hat{\theta}\) が母数 \(\theta\) に確率収束する。
不偏性
推定量の期待値が母数に等しい
\[
E[\hat{\theta}] = \theta
\]
期待値として見たとき、
推定量が平均的に母数と一致している。
2つの違い
一致性
\(n\) を大きくしたときにどうなるか
不偏性
期待値として母数と一致するか
ここがポイント
一致性は「\(n\) が大きいときに母数へ近づく性質」、
不偏性は「期待値として母数と一致する性質」。
STEP 03
標本平均は一致性も不偏性ももつ
まず、
母平均 \(\mu\) を推定するための代表的な推定量が、
標本平均 \(\bar{X}\)です。
\[
\bar{X}=\frac{X_1+X_2+\cdots+X_n}{n}
\]
母平均 \(\mu\) を推定するための推定量
標本平均は、
一致性も不偏性も満たします。
不偏性
\[
E[\bar{X}] = \mu
\]
標本平均の期待値は母平均に等しいので、
標本平均は不偏推定量です。
一致性
\[
\bar{X}\xrightarrow{P}\mu
\]
これは大数の法則そのもので、
\(n\) を大きくすると標本平均は母平均へ近づきます。
標本平均のイメージ
\(n\) が小さい
いろいろな標本平均が出やすい
↓ \(n\) を大きくする
\(\mu\)
分布が \(\mu\) のまわりに集中していく
ここがポイント
標本平均 \(\bar{X}\) は、
母平均 \(\mu\) の推定量として
一致性も不偏性ももつ。
STEP 04
標本分散と不偏分散を区別する
次に、
母分散 \(\sigma^2\) を推定する場合を考えます。
ここで区別したいのが、
標本分散と
不偏分散です。
標本分散
\[
s^2
=
\frac{1}{n}
\sum_{i=1}^{n}
(X_i-\bar{X})^2
\]
\[
s^2 \xrightarrow{P} \sigma^2
\]
一致性あり
\[
E[s^2]\neq \sigma^2
\]
不偏性なし
不偏分散
\[
\hat{\sigma}^2
=
\frac{1}{n-1}
\sum_{i=1}^{n}
(X_i-\bar{X})^2
\]
\[
\hat{\sigma}^2 \xrightarrow{P} \sigma^2
\]
一致性あり
\[
E[\hat{\sigma}^2] = \sigma^2
\]
不偏性あり
標本分散は、
分母が \(n\) なので扱いやすい一方で、
期待値が母分散と一致しません。
そこで推測統計では、
分散の推定には
不偏分散を使うのが基本になります。
ここでの違い
標本分散
\[
\frac{1}{n}
\sum_{i=1}^{n}(X_i-\bar{X})^2
\]
↓ 分母だけ変える
不偏分散
\[
\frac{1}{n-1}
\sum_{i=1}^{n}(X_i-\bar{X})^2
\]
分母が \(n\) か \(n-1\) かで、
不偏性の有無が変わる
つまり、標本分散も不偏分散も
\(n\) が大きくなれば母分散へ近づきますが、
期待値として母分散と一致するのは不偏分散
です。
ここがポイント
標本分散は一致性はあるが不偏ではない。
不偏分散は一致性も不偏性ももつ。
STEP 05
なぜ不偏分散は \(n-1\) で割るのか
不偏分散の分母が
\(n\) ではなく
\(n-1\) になるのは、
自由度と関係しています。
分散の計算では
\((X_i-\bar{X})\) という偏差を使いますが、
この偏差たちには
「和が0になる」という制約があります。
\[
\sum_{i=1}^{n}(X_i-\bar{X}) = 0
\]
偏差の和は必ず0になる
\(n=3\) のときのイメージ
\(X_1-\bar{X}\)
自由に決められる
\(X_2-\bar{X}\)
自由に決められる
\(X_3-\bar{X}\)
自動的に決まる
↓
自由に動けるのは 3個ではなく 2個
つまり自由度は
\(n-1\)
したがって、
分散の平方和を平均するときには、
見かけ上の個数 \(n\) ではなく、
実際に自由に動ける個数である
自由度 \(n-1\)
で割る必要があります。
その補正によって、
不偏分散は母分散の不偏推定量になります。
自由度のイメージをもう少し確認する
たとえば \(n=3\) で、
標本平均 \(\bar{X}\) がすでに決まっているとします。
すると、
3つの偏差
\((X_1-\bar{X}), (X_2-\bar{X}), (X_3-\bar{X})\)
は、
\[
(X_1-\bar{X}) + (X_2-\bar{X}) + (X_3-\bar{X}) = 0
\]
を満たさなければいけません。
このため、
最初の2つが決まれば、
最後の1つは自動的に決まります。
つまり、
自由な値の個数は3個ではなく2個であり、
一般には自由度は \(n-1\) になります。
ここがポイント
不偏分散の分母が \(n-1\) なのは、
偏差の和が0という制約があり、
自由度が \(n-1\) になるから。
STEP 06
推測統計では分散は不偏分散で考える
記述統計では、
データのばらつきを表す量として
標本分散を扱うことが多くあります。
しかし、
推測統計では
母分散を推定する
という目的があるため、
基本的には
不偏分散を前提に考えます。
記述統計
データの特徴を要約する
⇄
推測統計
母数を推定する
推測統計では不偏性が重要なので、
分散は不偏分散を使う
ここがポイント
推測統計では、
分散の推定には基本的に不偏分散を用いる。
SUMMARY
点推定を整理する
一致性
\(n\) を大きくすると推定量が母数へ近づく
標本平均
母平均の推定量として一致性も不偏性ももつ
とくに重要
\[
E[\bar{X}] = \mu,
\qquad
\bar{X}\xrightarrow{P}\mu
\]
\[
E[s^2]\neq\sigma^2,
\qquad
E[\hat{\sigma}^2]=\sigma^2
\]
最後に
良い推定量かどうかは、
「\(n\) が大きいときに近づくか」と
「期待値としてずれていないか」で見る。
母平均には標本平均、母分散には不偏分散が基本。
NEXT STEP
次のステップ：統計検定®2級を目指す
このサイトで統計学の基礎を学んだあと、
統計検定®2級の合格まで体系的に学びたい方へ。
統計検定®2級対策講座【ベストセラー版】
約9時間の動画講義と200問以上の小テストに加えて、
模擬試験にも取り組めます。
講座内ではQ&Aも利用でき、
これまでに400問以上の質問に回答してきました。
約9時間の動画講義
200問以上の小テスト
模擬試験
400問以上のQ&A
統計検定®2級対策講座を見る
資格試験ではなく、統計学そのものを動画で学びたい方へ
記述統計・確率・推定・検定を基礎から学ぶ
「統計学ベーシック講座その１『確率分布・推定・検定』」
も用意しています。
統計学ベーシック講座を見る →