多変量モーメントの世界へようこそ!
皆さん、こんにちは!これまでは単一の変数に対する平均(期待値)や分散の求め方を学んできましたが、いよいよ多変量(Multivariate)の世界に足を踏み入れます。1人の身長だけを見るのではなく、その人の「身長」と「体重」の関連性を見るようなものだと考えてください。
この章では、2つ以上の変数が相互に関係しているときの「モーメント」(平均や広がりを表す統計的な専門用語です)を探求します。二重積分や二重和が出てきて少し「複雑そう」に見えるかもしれませんが、パターンさえつかめれば格段に扱いやすくなりますよ!
1. 同時期待値(Joint Expected Values)
2つの確率変数 \(X\) と \(Y\) があるとき、\(E[X + Y]` や \)E[XY]` のように、両者を含む関数の平均を求めたいことがあります。これを同時期待値(Joint Expected Value)と呼びます。
任意の関数 \(g(X, Y)\) の期待値を求めるには、その関数に同時確率密度関数(または質量関数)を掛け合わせ、すべてについて和をとるか積分するだけです。
離散型変数の場合:
\( E[g(X, Y)] = \sum_{x} \sum_{y} g(x, y) \cdot p(x, y) \)
連続型変数の場合:
\( E[g(X, Y)] = \int_{-\infty}^{\infty} \int_{-\infty}^{\infty} g(x, y) \cdot f(x, y) \,dy \,dx \)
例え話: 床にタイルのグリッドが敷き詰められていると想像してください。各タイルには値が書かれており、それぞれのタイルには特定の「重み」(確率)があります。部屋全体の平均値を求めるには、各タイルの値にその重みを掛けて、すべてを足し合わせればよいのです。
クイック復習: 期待値には「線形性」があることを思い出してください!つまり、\(E[aX + bY + c] = aE[X] + bE[Y] + c\) です。これは \(X\) と \(Y\) が従属であっても成り立ちます!
2. 共分散:関係性を測る
共分散(Covariance)は、2つの変数がどのように連動して変化するかを測る指標です。\(X\) が増えるときに \(Y\) も増えるなら共分散は正になり、\(X\) が増えるときに \(Y\) が減るなら負になります。
Exam Pで最も頻繁に使う公式はこれです:
\( \mathbf{Cov(X, Y) = E[XY] - E[X]E[Y]} \)
重要な注意点: もし \(X\) と \(Y\) が独立(independent)であれば、\(E[XY] = E[X]E[Y]` となるため、共分散は0になります。ただし、気をつけてください!共分散が0であっても、必ずしも独立であるとは限りません(とはいえ、Exam Pの文脈では、通常は線形関係がないことを意味します)。
\n\n相関係数(\)\rho\))
共分散はどのような値でもとり得るため、比較が困難です。相関係数(Correlation)は、共分散をスケーリングして -1から1の間 に収まるようにしたものです。
\( \rho_{XY} = \frac{Cov(X, Y)}{\sigma_X \sigma_Y} \)
ここで、\(\sigma_X\) と \(\sigma_Y\) はそれぞれ \(X\) と \(Y\) の標準偏差です。
重要なポイント: 共分散は関係の「方向」を教えてくれますが、相関係数は「方向と強さ」の両方を教えてくれます。
3. 条件付きモーメント
一方の変数の情報が与えられたときに、もう一方の平均や分散を求めることがあります。これらが条件付きモーメント(Conditional Moments)です。
条件付き期待値
\(Y = y\) が与えられたときの \(X\) の条件付き平均は以下の通りです:
\( E[X | Y = y] = \int x \cdot f_{X|Y}(x|y) \,dx \)
本質的には、\(Y\) を定数として扱い、条件付き密度関数を使って平均を求めていることになります。
条件付き分散
これは、\(Y\) がわかっているときの \(X\) の「広がり」を測るものです:
\( Var(X | Y = y) = E[X^2 | Y = y] - (E[X | Y = y])^2 \)
豆知識: \(E[X|Y]\) は、実はそれ自体が1つの確率変数です!なぜなら、その値は \(Y\) が何になるかによって変わるからです。ここから、この章で最も重要な2つの法則が導かれます。
4. 強力なツール:二重期待値と全分散
これら2つの公式は「Exam Pの金字塔」とも言える非常に重要なものです。試験ではほぼ間違いなく使うことになります。
反復期待値の法則(アダムの法則)
これは「平均の平均は、全体の平均である」という法則です。
\( \mathbf{E[X] = E[E[X|Y]]} \)
例: 学校全体の生徒の平均身長を知りたいとき、各クラスの平均身長(\(E[X|Y]\))を求め、それらの結果を平均すれば全体の平均になります。
全分散の法則(イブの法則)
これは、全体の分散を「グループ内の分散」と「グループ間の分散」の2つに分解するものです。
\( \mathbf{Var(X) = E[Var(X|Y)] + Var(E[X|Y])} \)
覚え方: 多くの学生は "EV + VE"(分散の期待値 + 期待値の分散)と覚えています。
最初は難しく感じるかもしれませんが、大丈夫です! 最初の部分(\(E[Var]\))が条件付きグループ内の「ノイズ」を処理し、後半の部分(\(Var(E)\))が「各グループの平均」そのものがどれだけ変動するかを処理している、とイメージしてください。
5. よくある間違い
1. 周辺密度と条件付き密度の混同: \(f(x)\)(周辺)を使うべきか \(f(x|y)\)(条件付き)を使うべきか、常に確認しましょう。問題文に「\(Y=2\) と与えられたとき...」とあれば、必ず条件付き密度を使わなければなりません!
2. 平均の二乗を忘れる: 分散の公式 \(Var(X) = E[X^2] - (E[X])^2\) において、最後の項の二乗を忘れる学生が非常に多いです。これは条件付き分散でも同じです!
3. \(E[XY] = E[X]E[Y]\) だと思い込む: これは変数が独立している場合にのみ真です。同時密度関数 \(f(x,y)\) が \(f(x)f(y)\) に分離できない場合は、必ず \(xy \cdot f(x,y)\) を積分してください。
6. まとめチェックリスト
演習問題に取り組む前に、以下のことができるか確認しましょう:
- 二重積分や二重和を使って \(E[XY]\) を計算できる。
- \(Cov(X, Y)\) を求め、独立な変数ではこれが0になることを理解している。
- 相関係数を計算し、それが-1から1の間にあることを確認できる。
- 反復期待値の法則を使って複雑な問題を単純化できる。
- イブの法則 (EV + VE) を使って変数の全分散を求めることができる。
最後のヒント: ある変数の挙動が別の変数に依存する問題(例:「保険請求件数 \(N\) がリスククラス \(\Theta\) に依存する」など)を見かけたら、それは「全期待値の法則」や「全分散の法則」を使う大きな合図です!