重回帰分析へようこそ！

レベルIでは「単回帰分析」について学びました。これは市場収益率のような1つの要素を使って、株式収益率のようなもう1つの要素を予測する手法です。しかし、正直に言いましょう。現実はそれほど単純ではありません。住宅価格は単に広さだけで決まるわけではなく、周辺環境、築年数、バスルームの数など、様々な要素に影響されますよね。

重回帰分析（Multiple Linear Regression: MLR）は、こうした「現実世界」の複雑さを扱うためのツールです。これは、2つ以上の独立変数を使用して、1つの従属変数を説明するものです。最初、数式が難しそうに見えても心配はいりません。一つずつ、分かりやすく紐解いていきましょう！

1. 重回帰モデル

重回帰分析の基本的な式は以下の通りです：

\( Y_i = b_0 + b_1X_{1i} + b_2X_{2i} + ... + b_kX_{ki} + \epsilon_i \)

各要素の意味は以下の通りです。
- \( Y_i \)：従属変数（予測しようとしている対象）。
- \( b_0 \)：切片（すべての \( X \) がゼロの時の \( Y \) の値）。
- \( b_1, b_2, ..., b_k \)：偏回帰係数。
- \( X_{1}, X_{2}, ..., X_{k} \)：独立変数（予測因子）。
- \( \epsilon_i \)：誤差項（モデルでは説明しきれない「ノイズ」）。
- \( k \)：独立変数の数。

重要概念：偏回帰係数

ここは試験で頻出のトピックです！係数（例えば \( b_1 \)）は、他のすべての独立変数を一定に保ったまま、\( X_1 \) が1単位変化したときに \( Y \) がどれだけ変化するかを示します。この「一定に保つ」という部分が非常に重要です。つまり、その特定の変数が持つ固有の影響力を切り出しているのです。

例：経験年数（\( X_1 \)）と教育水準（\( X_2 \)）に基づいて給与を予測する場合、経験年数の係数は「教育水準を完全に同じとしたまま」仕事の経験が1年増えた時の給与の増加額を教えてくれます。

クイック復習：
- 従属変数 = 結果
- 独立変数 = 原因/予測因子
- \( b_j \) の解釈： セテリス・パリブス（他の条件がすべて同じである場合）、\( X_j \) が1単位変化したときの \( Y \) の変化量。

2. MLRの6つの基礎的仮定

回帰モデルが信頼に足るものになるためには、いくつかのルールを守る必要があります。これらのルールが破られると、結論が「偏ったもの（バイアスがある）」になったり、完全に間違ったものになってしまいます。妥当なMLRのための「レシピ」は以下の通りです：

1. 線形性： 従属変数と独立変数の関係は線形であること。（曲線はNG！）
2. 多重共線性がないこと： 独立変数同士が高い相関を持っていないこと。
3. 等分散性： 誤差項の分散がすべての観測値で一定であること。（誤差の「ばらつき」が変わってしまうと不均一分散となります）。
4. 誤差の独立性： ある観測値の誤差項が、他の観測値の誤差項と関連していないこと。（自己相関がないこと）。
5. 正規性： 誤差項が正規分布に従っていること。
6. Xと誤差の独立性： 独立変数が誤差項と相関していないこと。

暗記用フレーズ： 「LINE-M」
- Linear relationship（線形関係）
- Independent errors（誤差の独立性）
- Normal errors（誤差の正規性）
- Equal variance（等分散性）
- Multicollinearity (None!)（多重共線性がないこと）

結論： これらの仮定が満たされるとき、私たちの推定値は BLUE（最良線形不偏推定量）となります。

3. モデルの評価：ANOVAと決定係数

回帰分析を行った後、それが本当に良いモデルかどうかをどう判断すればよいでしょうか？そこで登場するのがANOVA（分散分析）表です。

3つの平方和

1. 全平方和 (SST)： 従属変数の全体的な変動。
2. 回帰平方和 (RSS)： モデルによって説明可能な変動。
3. 残差平方和 (SSE)： モデルで説明しきれなかった「残りの」変動。

関係式： \( SST = RSS + SSE \)

決定係数 (\( R^2 \)) と 自由度調整済み決定係数 (\( R^2_{adj} \))

\( R^2 \)（決定係数）は、\( Y \) の変動のうち、独立変数によって説明できる割合を示します。
\( R^2 = \frac{RSS}{SST} \)

豆知識： モデルに「新しい変数」を1つでも追加すると、\( R^2 \) はそのままか、増加します。決して減ることはありません！これは問題です。なぜなら、モデルを良く見せるためだけに、無意味な変数を追加できてしまうからです。

これを修正するために、自由度調整済み決定係数 (\( R^2_{adj} \)) を使います：
\( R^2_{adj} = 1 - [(\frac{n-1}{n-k-1}) \times (1 - R^2)] \)

調整済み \( R^2 \) は、実質的な価値を加えない変数に対して「ペナルティ」を科す仕組みです。これは常に \( R^2 \) 以下となります。

4. 仮説検定：結果に有意性はあるか？

モデルが実際に有用な情報を提供しているかを確認するために、主に2つのテストを使います。

t検定（個別の有意性）

「特定の」独立変数は有用か？
- 帰無仮説 (\( H_0 \))： \( b_j = 0 \)（その変数は無意味）。
- 対立仮説 (\( H_a \))： \( b_j \neq 0 \)（その変数は有意）。
- 計算式： \( t = \frac{\text{推定係数}}{\text{係数の標準誤差}} \)

F検定（モデル全体の有意性）

「すべての」独立変数は「まとめて」 \( Y \) の変動を説明できているか？
- 帰無仮説 (\( H_0 \))： \( b_1 = b_2 = ... = b_k = 0 \)（モデル全体が無意味）。
- 計算式： \( F = \frac{MSR}{MSE} = \frac{RSS/k}{SSE/(n-k-1)} \)

注：F検定は常に片側検定です。算出されたF値が臨界値（クリティカルF）よりも大きければ、帰無仮説を棄却し、モデルは有意であると判断します。

よくある間違い： t検定とF検定を混同しないこと。単一の変数をチェックするなら t検定、変数のグループ全体をチェックするなら F検定 です。

5. 推定の標準誤差 (SEE)

SEE は誤差項の標準偏差を測定するものです。実際のデータポイントが回帰直線からどれくらい離れているかを示します。
- SEE が小さいほど、そのモデルの予測は「高精度」であることを意味します。
- 計算式： \( SEE = \sqrt{MSE} = \sqrt{\frac{SSE}{n-k-1}} \)

重要ポイント： SEE はモデルの「平均的な誤差」だと考えてください。低い方が良いのです！

成功のためのチェックリスト

次の章に進む前に、以下のことができるか確認しましょう：
- [ ] 従属変数と独立変数を識別できる。
- [ ] 係数を解釈できる（「他の条件がすべて一定である場合」というフレーズを忘れずに）。
- [ ] 6つの仮定（LINE-M）を挙げられる。
- [ ] なぜ調整済み \( R^2 \) が \( R^2 \) より優れている場合が多いのか説明できる。
- [ ] t統計量とF統計量を計算できる。
- [ ] \( SST = RSS + SSE \) という関係を理解している。

計算が大変そうに思えても大丈夫！ほとんどのCFA試験問題ではANOVA表が提供されます。あなたの仕事は、その数字が互いにどう関係しているか、そして投資分析においてそれが何を意味するのかを理解することです。あなたならきっと大丈夫！