重回帰分析へようこそ！

これまでの学習では、1つの変数（市場収益率など）を用いて別の変数（株式収益率など）を予測する単回帰分析（Simple Linear Regression: SLR）について学びました。しかし、正直なところ、世界はそんなに単純ではありませんよね！株価は市場だけでなく、金利、原油価格、そして企業の業績など、さまざまな要因から同時に影響を受けています。

この章では、より現実の世界に近い重回帰分析（Multiple Linear Regression: MLR）を学びます。これにより、複数の説明変数を使って1つの従属変数を説明できるようになります。最初は計算が多くて難しく感じるかもしれませんが、安心してください。一つずつ丁寧に分解していきます。読み終える頃には、単回帰の延長線上に過ぎないことが実感できるはずです！

1. 重回帰モデル

重回帰分析では、多次元のデータポイントの集合体に対して「最も適合する」線を見つけ出そうとします。数式は以下のようになります。

\( Y_i = \beta_0 + \beta_1 X_{1i} + \beta_2 X_{2i} + ... + \beta_k X_{ki} + \epsilon_i \)

ここで：
- \( Y_i \)：従属変数（予測したい値）。
- \( \beta_0 \)：切片（すべての \(X\) がゼロの時の \(Y\) の値）。
- \( \beta_1, \beta_2... \)：偏回帰係数。
- \( X_1, X_2... \)：独立変数（説明変数）。
- \( \epsilon_i \)：誤差項（\(Y\) に影響を与えるが、モデルには含まれていないその他の要因）。

「偏（Partial）」効果を理解する

FRM試験に向けて最も重要なのは、これらの係数をどう解釈するかです。ここで「セテリス・パリバス（ceteris paribus）」（他の条件がすべて同じであれば）という考え方を使います。

例： 住宅価格（\(Y\)）を、平方フィート（\(X_1\)）と寝室の数（\(X_2\)）から予測するとします。もし \(\beta_1 = 150\) なら、これは「寝室の数を一定に保ったまま」、平方フィートが1単位増えるごとに住宅価格が150ドル上昇することを意味します。

クイックレビュー： 重回帰分析では、モデル内の他のすべての変数を変化させない（固定する）という前提のもとで、その特定の変数が持つ効果を係数が示しています。

2. 当てはまりの良さ：決定係数 \(R^2\) vs. 修正済み決定係数

単回帰では、モデルがデータをどれだけうまく説明しているかを確認するために \(R^2\) を使いました。しかし、重回帰において、通常の \(R^2\) には「落とし穴」があります。

問題点： 新しい変数をモデルに追加するたびに、たとえそれが全く無意味な変数であっても（例えば「空を飛ぶ鳥の数」で「株価」を予測するようなもの）、\(R^2\) は常に同じか上昇します。決して下がることはありません！

解決策：修正済み決定係数

これを解決するために、修正済み決定係数（Adjusted \(R^2\)）（\(\bar{R}^2\) と表記）を使います。この指標は、従属変数の説明に寄与しない変数を追加すると「ペナルティ」を与えます。これにより、変数を追加する価値があるかどうかを判断できるのです。

\( \bar{R}^2 = 1 - \frac{(1-R^2)(n-1)}{n-k-1} \)

ここで：
- \( n \) = 観測数
- \( k \) = 独立変数の数

豆知識： 変数追加に対するペナルティがあるため、修正済み決定係数は常に通常の \(R^2\) 以下となります。もし試験問題で「修正済み決定係数 > \(R^2\)」となっているものを見つけたら、それはひっかけ問題だとすぐに分かりますね！

重要なポイント： 分散がどれだけ説明されているかを確認するには \(R^2\) を、変数の数が異なるモデル同士を比較する際には修正済み決定係数を使うようにしましょう。

3. 仮説検定：t検定とF検定

モデルが出来上がったら、次に各変数が本当に重要かどうかを確認する必要があります。主に2種類の検定を使います。

t検定（個別の有意性）

t検定は、単一の変数が統計的に有意かどうかを調べるために使います。
帰無仮説 (\(H_0\))： \(\beta_i = 0\) （その変数は影響を持たない）。
公式： \( t = \frac{\text{推定された係数} - \text{仮定された値}}{\text{係数の標準誤差}} \)

F検定（共同の有意性）

F検定は、すべての説明変数がグループとして予測力を持っているかをチェックします。少なくとも1つの \(\beta\) 係数がゼロではないかをテストします。
帰無仮説 (\(H_0\))： \(\beta_1 = \beta_2 = ... = \beta_k = 0\)。
たとえ話： t検定がチームの各選手が優れているかを確認するものだとしたら、F検定はチーム全体で試合に勝てる力があるかを確認するようなものです。

よくある間違い： 個別のt検定がすべて失敗したからといって、F検定も失敗するとは限りません！変数は単独よりも組み合わさった方がうまく機能することがあるからです。

4. 落とし穴：変数除外バイアスと多重共線性

重回帰は強力ですが、FRM試験で必ず認識しておくべき2つの大きな「敵」がいます。

敵その1：変数除外バイアス（Omitted Variable Bias: OVB）

これは、重要（\(Y\)に影響を与える）かつモデルに含まれている変数と相関している変数をモデルから除外してしまった場合に起こります。

結果： 推定された係数はバイアス（偏り）を持ち、不一致（inconsistent）になります。モデルは、除外された変数の手柄（または責任）を、モデルに残っている変数に勝手に割り当ててしまうのです。

敵その2：多重共線性（Multicollinearity）

これは、2つ以上の「独立」変数同士が高い相関を持っている場合に起こります。例えば、「左足の長さ」と「右足の長さ」を使って身長を予測しようとするようなものです。

見分け方：
1. \(R^2\) は非常に高く、F検定も有意である。
2. しかし、個別のt検定は有意ではない（個々で見ると「無意味」に見える）。
3. 係数の標準誤差が非常に大きい。

たとえ話： 同じメッセージを同時に叫んでいる2人を想像してください。メッセージが伝えられていること（高い\(R^2\)）は分かっても、どちらの人がメッセージのどの部分を担当しているのか判別できない（低いt統計量）ような状態です。

クイックレビュー： OVBは結果を誤ったもの（バイアス）にし、多重共線性はずさんなもの（高い分散/標準誤差）にします。

5. 重回帰モデルの仮定

OLS（最小二乗法）の推定値が「最良線形不偏推定量（BLUE）」であるためには、いくつかの仮定が満たされる必要があります。これらは、重回帰モデルに拡張されたガウス＝マルコフの仮定と呼ばれます。

1. 線形性： 変数間の関係は線形である。
2. ランダムサンプリング： データは母集団を代表するサンプルである。
3. 完全な共線性の欠如： どの独立変数も他の変数の完全な線形結合ではない。
4. ゼロ条件付き平均： \(X\) が与えられたとき、誤差項の期待値はゼロである。\(E(\epsilon | X) = 0\)。(これはバイアスに関して最も重要な仮定です！)
5. 等分散性： 誤差項の分散はすべての観測値で一定である。

まとめの重要ポイント：
- 係数： 「他のすべてを一定に保った場合」と解釈すること。
- 修正済み決定係数： モデル比較に使用。複雑さにはペナルティが課される。
- F検定： モデル全体を検定。t検定は1つの変数を検定。
- 多重共線性： \(X\) 変数間の高い相関は、大きな標準誤差と低いt統計量につながる。
- 変数除外バイアス（OVB）： 重要な変数が欠落している場合に発生し、推定量にバイアスが生じる。