問題(大問の後半)
出典はタクティクス数学(上)第3章 3-2「多次元正規分布」、参考類題 H29.2。目標解答時間25分の大問の後半 (2)(3) です。周辺分布と回帰関数を扱った前半 (1) は別の記事(前編)にあります。
設定を再掲します。$(X, Y) \sim N(\mu_1, \mu_2, \sigma_1^2, \sigma_2^2, \rho)$ で、同時密度は
$$f_{X,Y}(x,y) = \frac{1}{2\pi\sigma_1\sigma_2\sqrt{1-\rho^2}}\exp\left\{-\frac{A(x,y)}{2}\right\}, \quad A(x,y) = \frac{1}{1-\rho^2}\left\{\frac{(x-\mu_1)^2}{\sigma_1^2} - 2\rho\frac{(x-\mu_1)(y-\mu_2)}{\sigma_1\sigma_2} + \frac{(y-\mu_2)^2}{\sigma_2^2}\right\}$$
(2) $Z = 4\,A(X, Y)$ と定義する。$Z$ の積率母関数を求め、$Z$ の従う分布を特定せよ
(3) $(W_1, W_2) \sim N(0, 0, 1, 1, \rho)$ の積率母関数 $M_{W_1,W_2}(t_1, t_2)$ を求め、相関係数 $\rho(W_1, W_2)$ がパラメータ $\rho$ に一致することを確かめよ
原問(2017年度 問題2)はマーク形式で、内容の構成は同じです。
まず何に着目するか
(2) の着眼は、$e^{tZ}$ を掛けても指数の中身が同じ2次形式のままだということです。
$$e^{tZ} \cdot \exp\left\{-\frac{A}{2}\right\} = \exp\left\{-\frac{(1-8t)\,A}{2}\right\}$$
つまり被積分関数は「$A$ の係数が $1-8t$ 倍にスケールされた、同じ形の関数」。ならば変数を $\sqrt{1-8t}$ 倍に縮めてやれば、元の密度関数に戻るはずです。積分を計算するのではなく、変数変換で「全確率1」の形に帰着させる。前編の平方完成と同じ思想です。
(3) の着眼はただの平方完成です。$e^{t_1 x + t_2 y}$ を指数の中に取り込み、$x$ の塊、$y$ の塊の順に2乗を作っていくと、積分できる形に分解されます。
解法の筋道と計算
(2) スケール変換で「全確率1」に帰着させる
積率母関数の定義に入れて指数をまとめます。
$$M_Z(t) = \iint \frac{1}{2\pi\sigma_1\sigma_2\sqrt{1-\rho^2}}\exp\left\{-\frac{(1-8t)\,A(x,y)}{2}\right\}dx\,dy$$
$t$ が0の近傍なら $1 - 8t > 0$ です。ここで
$$u = \frac{x-\mu_1}{\sigma_1}\sqrt{1-8t}, \qquad v = \frac{y-\mu_2}{\sigma_2}\sqrt{1-8t}$$
と変数変換します。ヤコビアンは $x = \mu_1 + \dfrac{\sigma_1 u}{\sqrt{1-8t}}$、$y = \mu_2 + \dfrac{\sigma_2 v}{\sqrt{1-8t}}$ から
$$J = \frac{\partial x}{\partial u}\frac{\partial y}{\partial v} - \frac{\partial x}{\partial v}\frac{\partial y}{\partial u} = \frac{\sigma_1}{\sqrt{1-8t}}\cdot\frac{\sigma_2}{\sqrt{1-8t}} = \frac{\sigma_1\sigma_2}{1-8t}$$
代入すると、$\sigma_1\sigma_2$ と $1-8t$ が指数の中身から順に約分されて
$$M_Z(t) = \frac{1}{1-8t}\iint \frac{1}{2\pi\sqrt{1-\rho^2}}\exp\left\{-\frac{u^2 - 2\rho uv + v^2}{2(1-\rho^2)}\right\}du\,dv$$
残った二重積分の中身は $N(0,0,1,1,\rho)$ の同時密度そのもの。全確率1で消えます。
$$M_Z(t) = \frac{1}{1-8t} = \frac{\frac{1}{8}}{\frac{1}{8}-t} \qquad \left(t < \frac{1}{8}\right)$$
これは率パラメータ $\beta = \dfrac{1}{8}$ の指数分布($\Gamma(1, \frac{1}{8})$。積率母関数は $\frac{\beta}{\beta - t}$)の積率母関数です。積率母関数が一致すれば分布も一致するので
$$Z \sim \Gamma\left(1,\ \frac{1}{8}\right)$$
平均 $E(Z) = 8$、分散 $V(Z) = 64$ まで即座に出ます。
別解:直交化してカイ2乗分布に帰着させる(積分なし)
積分を1本も書かずに同じ結論に達する道があります。標準化した $U = \dfrac{X-\mu_1}{\sigma_1}$、$V = \dfrac{Y-\mu_2}{\sigma_2}$ に対して
$$W = \frac{U - \rho V}{\sqrt{1-\rho^2}}$$
とおくと、$W$ と $V$ はどちらも標準正規で、共分散は $\mathrm{Cov}(W, V) = \dfrac{\rho - \rho}{\sqrt{1-\rho^2}} = 0$。2次元正規では無相関は独立を意味するので、$W \perp V$。そして前編でやった平方完成そのものにより
$$A(X,Y) = \frac{1}{1-\rho^2}(U - \rho V)^2 + V^2 = W^2 + V^2$$
独立な標準正規の2乗和なので $A \sim \chi^2(2)$。自由度2のカイ2乗分布は $\Gamma(1, \frac{1}{2})$、つまり平均2の指数分布です。$Z = 4A$ はそのスケール変換で、指数分布のパラメータが $\frac{1}{4}$ 倍されて $\Gamma(1, \frac{1}{8})$。積率母関数の答え $\dfrac{1}{1-8t} = \left(1 - 2\cdot 4t\right)^{-2/2}$ とも一致します。
「2次元正規の指数の肩の2次形式は $\chi^2(2)$」。この事実を知っていると、本問の (2) は空欄を待たずに結論が見えます。空欄補充では誘導どおりに埋めつつ、この別解を検算に走らせるのが実戦の形です。
(3) 平方完成で積率母関数を出し、偏微分で相関係数へ
$e^{t_1 x + t_2 y}$ を指数に取り込むと、肩は $-\dfrac{B(x,y)}{2}$ の形にまとまります。ここで
$$B(x,y) = \frac{1}{1-\rho^2}\left\{x^2 - 2\rho xy + y^2 - 2(1-\rho^2)t_1 x - 2(1-\rho^2)t_2 y\right\}$$
これをまず $x$ の塊、次に残った $y$ の2次式の順で平方完成すると、3つの部分に分解されます。
$$B(x,y) = \underbrace{\frac{\left\{x - \rho y - (1-\rho^2)t_1\right\}^2}{1-\rho^2}}_{C(x,y)} + \underbrace{(y - t_2 - \rho t_1)^2}_{D(y)} \underbrace{- \left(t_1^2 + 2\rho t_1 t_2 + t_2^2\right)}_{E}$$
$\exp\left(-\frac{C}{2}\right)$ の $x$ 積分はガウスの公式で $\sqrt{2\pi(1-\rho^2)}$、$\exp\left(-\frac{D}{2}\right)$ の $y$ 積分は $\sqrt{2\pi}$。両者の積 $2\pi\sqrt{1-\rho^2}$ が密度の定数因子 $\dfrac{1}{2\pi\sqrt{1-\rho^2}}$ とぴったり打ち消し合って1になり、残るのは $E$ の項だけです。
$$M_{W_1,W_2}(t_1, t_2) = \exp\left(\frac{t_1^2 + 2\rho t_1 t_2 + t_2^2}{2}\right)$$
ここからは収穫の時間です。$t_2 = 0$ とおけば $M_{W_1}(t_1) = e^{t_1^2/2}$、つまり $W_1 \sim N(0,1)$(周辺分布の再確認)。$E(W_1W_2)$ は2階の偏微分で
$$E(W_1 W_2) = \left.\frac{\partial^2}{\partial t_2\,\partial t_1}M_{W_1,W_2}\right|_{t_1=t_2=0} = \rho$$
(微分すると $\{(t_1 + \rho t_2)(\rho t_1 + t_2) + \rho\}\,M_{W_1,W_2}$ となり、原点で $\rho$ だけが残ります。)$E(W_1) = E(W_2) = 0$、$V(W_1) = V(W_2) = 1$ なので
$$\rho(W_1, W_2) = \frac{E(W_1W_2) - 0}{1 \cdot 1} = \rho$$
密度関数に書かれていたパラメータ $\rho$ が、確かに相関係数そのものであることが確かめられました。
テクニック:積率母関数の肩は「平均と分散・共分散の索引」
得られた $M_{W_1,W_2} = \exp\left(\frac{t_1^2 + 2\rho t_1t_2 + t_2^2}{2}\right)$ は、多次元正規分布の積率母関数の一般形 $\exp\left(\mu^\top t + \frac{1}{2}t^\top\Sigma t\right)$ の特別な場合です。肩の1次の部分が $\mu^\top t$、2次の部分が $\frac{1}{2}t^\top\Sigma t$(係数 $\frac{1}{2}$ 付き)。この対応を知っていれば、(3) の答えは計算の前から予言できます。交差項は $\frac{1}{2} \cdot 2\,\mathrm{Cov}\,t_1t_2 = \mathrm{Cov}\,t_1t_2$ となるので、肩の $t_1t_2$ の係数を読むだけで $\mathrm{Cov} = \rho$ が見えます。試験では誘導に従って導出しつつ、この一般形を検算に使ってください。
よくある誤答
変数変換でヤコビアンを掛け忘れる、または $u, v$ 側の偏微分(逆向きのヤコビアン)を掛けてしまうのが定番の事故です。密度に掛けるのは「古い変数を新しい変数で表したときの偏微分」$\partial(x,y)/\partial(u,v)$ です。迷ったら、変換後の全積分が1になるか次元を確かめてください。
(2) で $1-8t$ の8を、$Z$ の係数4と取り違えて $1-4t$ とする誤りも出ます。$e^{tZ}$ の肩は $4tA$、密度側の肩は $-\frac{A}{2}$ なので、まとめると $-\frac{(1-8t)A}{2}$。$-\frac{1}{2}$ でくくる時点で係数が2倍になることを見落とさないでください。
類題はどこにあるか
積率母関数で分布を特定する型は、この節の H21.1(3)・H24.1(3)・2019.1(3)(同型3年度)にも通じます。2次形式とカイ2乗分布の関係は、統計編の分散の標本分布($\frac{(n-1)S^2}{\sigma^2} \sim \chi^2$)でも骨格として再登場します。
前編(周辺分布・条件付き分布・回帰関数)とあわせて、この大問1つで2次元正規分布の道具箱が一巡します。
まとめ
- $e^{tZ}$ を掛けても2次形式の形は変わらない。スケール変換 $\sqrt{1-8t}$ で元の密度に戻し、積分を「全確率1」に帰着させる。
- 答えは $Z \sim \Gamma(1, \frac{1}{8})$。別解は平方完成による直交化 $A = W^2 + V^2 \sim \chi^2(2)$ で、積分なしで同じ結論に届く。
- 積率母関数の肩の $t_1t_2$ の係数が共分散。多次元正規の一般形 $\exp(\mu^\top t + \frac{1}{2}t^\top\Sigma t)$ を検算用に持っておく。
- ヤコビアンの向きと、$-\frac{1}{2}$ でくくるときの係数2倍が事故ポイント。