標本平均の期待値と分散

標本平均とは何か

母集団から取り出したデータの一部を、 標本またはサンプルといいます。

ここでは、\(X_1,X_2,\ldots,X_n\) という \(n\) 個の確率変数が、 次の条件を満たしているとします。

この \(n\) 個のデータをすべて足して、\(n\) で割ったものを 標本平均といいます。

ここで重要なのは、 元の確率分布が正規分布であるとは仮定していない ことです。

これから確認する標本平均の期待値と分散の性質は、 正規分布だけに限った話ではありません。

標本平均にも「分布」がある

ここで、1つ疑問が出てきます。

標本平均は、手元のデータを平均して得られる1つの値です。 それなのに、なぜ標本平均の「期待値」や「分散」を考えるのでしょうか。

ポイントは、 標本を取り直せば、得られる標本平均も変わる ことです。

標本を取り直すたびに、得られる \(\bar{X}\) は少しずつ変わります。 したがって、\(\bar{X}\) 自体も確率変数として考えることができます。

これを表すのが、標本平均の期待値と分散です。

標本平均の中心は変わらない

まず、標本平均の分布の中心を考えます。

\(X_1,X_2,\ldots,X_n\) はすべて、 平均 \(\mu\) の同じ確率分布にしたがっています。

数式でも確認してみましょう。

\(n\) は定数なので、\(1/n\) を期待値の外に出すことができます。

期待値には加法性があるため、

それぞれの期待値は \(\mu\) なので、

つまり、標本抽出を何度も繰り返して標本平均を計算すると、 その標本平均たちの中心は、もとの分布の平均 \(\mu\) と一致します。

標本平均のばらつきは小さくなる

次に、標本平均がどのくらいばらつくのかを考えます。

ここで重要になるのが、 \(X_1,X_2,\ldots,X_n\) が互いに独立だという条件です。

では、標本平均の分散を計算してみましょう。

分散では、定数倍を外に出すとき、その定数は2乗になります。

したがって、

\(X_1,\ldots,X_n\) は互いに独立なので、 異なる確率変数どうしの共分散は0です。

そのため、和の分散はそれぞれの分散を足すだけで求められます。

それぞれの分散は \(\sigma^2\) なので、

よって、

元の確率分布の分散は \(\sigma^2\) でした。 一方、標本平均の分散は \(\sigma^2/n\) です。

\(n\) を増やすと何が起こる？

ここまでの結果を並べると、標本平均の性質はとてもシンプルです。

さらに、\(n\) を大きくするほど標本平均の分散は小さくなっていきます。

つまり、標本数を増やして平均をとるほど、 標本平均は \(\mu\) のまわりに集まりやすくなります。

上の図では、もとの分布と標本平均の分布を模式的に重ねています。 どちらも中心は \(\mu\) ですが、標本平均の方が広がりが小さくなっています。

ここで本当に重要なのは、

と

という2つの性質です。

この性質は、このあと学ぶ区間推定や仮説検定の土台になります。