その名前をどこで見るか

コクランの定理として出てきます。正規分布に従う独立な確率変数の2次形式が、条件のもとでカイ2乗分布に分解されるという定理です。

試験で使う形に絞ると、次の3つになります。$X_1, \dots, X_n$ が $N(\mu, \sigma^2)$ に独立に従うとき、

$$\bar{X} \sim N\!\left(\mu,\ \frac{\sigma^2}{n}\right)$$

$$\frac{(n-1)s^2}{\sigma^2} = \frac{1}{\sigma^2}\sum_{i=1}^{n}\left(X_i - \bar{X}\right)^2 \sim \chi^2(n-1)$$

そして、$\bar{X}$ と $s^2$ は独立です。

3つめの独立性が、実は最も効きます。t統計量 $\sqrt{n}(\bar{X}-\mu)/s$ を作るときに、分子の $\bar{X}$ と分母の $s$ が独立でなければ、この比が t分布に従うことを導けません。

もう1つ、コクランの名前は標本調査法にも付いています。標本抽出の設計についての教科書を書いた人物で、層化抽出などの理論を整理しました。

教材とタクティクスを合わせて数えると、コクランの出現数は21回でした。

どんな人だったか

ウィリアム・ジェメル・コクラン(1909年生まれ、1980年没)はスコットランド生まれの統計学者です。

グラスゴーとケンブリッジで学び、ロザムステッド農業試験場で働きました。ここはフィッシャーが実験計画法を作った場所です。その後アメリカへ移り、アイオワ州立大学、ジョンズ・ホプキンズ大学、ハーバード大学で教えました。

業績は2つの方向に分かれます。1つは理論で、分散分析に現れる2次形式の分布についての仕事です。もう1つは実務で、標本調査の設計と実験計画法についての教科書を書きました。標本調査法の教科書は長く標準的な文献として使われました。

学位を取らなかったことでも知られます。ケンブリッジで研究していましたが、博士論文を提出する前に職に就き、そのまま学位なしで大学教授になりました。

なぜその概念が必要になったか

コクランの定理が必要になった背景は、分散分析です。

分散分析では、データ全体のばらつきを要因ごとに分解します。全体の平方和を、群間の平方和と群内の平方和に分ける。それぞれが自由度を持ち、比を取ってF分布と比べます。

$$\sum(X_{ij} - \bar{X})^2 = \sum n_i(\bar{X}_i - \bar{X})^2 + \sum(X_{ij} - \bar{X}_i)^2$$

この分解が成り立つのは代数の話です。問題は、分けたあとの各項がどんな分布に従うかです。

それぞれがカイ2乗分布に従い、しかも互いに独立でなければ、比を取ってF分布と比べることができません。分解できることと、分解した各項が独立にカイ2乗分布に従うことは、別の主張です。

コクランの定理は、後者を保証します。2次形式の係数行列が満たすべき条件を与え、その条件のもとで独立なカイ2乗分布への分解が成り立つことを示しました。分散分析という手続きの正当性の根拠にあたります。

標準化した不偏分散 $(n-1)s^2/\sigma^2$ がカイ2乗分布に従うことは、この定理のもっとも簡単な場合です。全体の平方和を、平均のまわりの平方和と平均そのものの項に分ける。2つに分けるだけの場合です。

自由度が1つ減る理由

標本分散の自由度が $n$ ではなく $n-1$ になる理由を、言葉で説明できるようにしておく価値があります。

$$\sum_{i=1}^{n}\left(X_i - \bar{X}\right)^2$$

この式に現れる $n$ 個の偏差 $X_i - \bar{X}$ は、独立ではありません。すべて足すと必ず0になるという制約が1つあります。

$$\sum_{i=1}^{n}\left(X_i - \bar{X}\right) = 0$$

だから、$n-1$ 個の偏差が決まれば残り1個は自動的に決まります。自由に動けるのは $n-1$ 個。これが自由度です。

$\mu$ が既知なら制約がありません。

$$\frac{1}{\sigma^2}\sum_{i=1}^{n}\left(X_i - \mu\right)^2 \sim \chi^2(n)$$

自由度は $n$ になります。$\mu$ を $\bar{X}$ で置き換えた瞬間に1つ減る。置き換えたぶんだけ情報を使ったからです。

一般に、推定した母数の個数だけ自由度が減ります。回帰分析で説明変数を増やすと自由度が減るのも同じ理由です。

試験ではこう出る

2001年度から2025年度までの25年度で、コクランという語が現れる年度は0です。1件もありません。

一方、標本分散または不偏分散が出た年度は15年度あります。区間推定は24年度、仮説検定は25年度中24年度です。

つまり、名前は一度も出ないのに、定理の内容はほぼ毎年使われています。

具体的な使われ方を挙げます。

母分散の区間推定と検定。$(n-1)s^2/\sigma^2$ がカイ2乗分布に従うことを使い、カイ2乗分布表から区間を作ります。

母平均の検定で母分散が未知の場合。$\bar{X}$ と $s$ が独立であることを使って、$\sqrt{n}(\bar{X}-\mu_0)/s$ がt分布に従うことを導きます。この独立性がなければt分布は出てきません。

2つの母分散の比の検定。2つの標本分散がそれぞれ独立にカイ2乗分布に従うので、比がF分布に従います。2000年度(H12)の問題4は、2つの農園のトマトの重さについて、まず母分散が等しいかをF検定し、次に母平均の差をt検定させる構成でした。

分散分析。指定演習書の統計編第6章にあたります。平方和の分解とF検定の組み合わせで、コクランの定理がもっとも直接に効く場面です。

タクティクスの下巻は第12章から正規母集団の母数を扱い、第13章で2つの正規母集団、第18章で適合度と独立性の検定へ進みます。どの章でも「この統計量がこの分布に従う」という対応が前提になっており、その対応の根拠がコクランの定理です。

名前を覚える必要はありません。ただし自由度の決め方は毎回問われます。推定した母数の個数だけ減る、という原則を持っていれば、初見の設定でも自由度を決められます。

まとめ

  • ウィリアム・コクラン(1909年生・1980年没、スコットランド生まれ)は分散分析の理論と標本調査法の両方に業績がある。
  • コクランの定理は、正規分布の2次形式が独立なカイ2乗分布に分解されることを保証する。
  • 標本平均と標本分散が独立であること、これがt分布を作る前提になっている。
  • 自由度が $n-1$ になるのは、偏差の和が0という制約が1つあるため。推定した母数の個数だけ減る。
  • 過去問25年度で名前が出るのは0年度。標本分散・不偏分散では15年度、区間推定では24年度に登場する。