回帰モデルの評価へようこそ！

こんにちは！CFA Level IIまで到達した皆さんなら、定量分析（Quantitative Methods）が乗り越えるべき大きな山のように感じられることは既にご存知でしょう。ですが安心してください。回帰モデルを評価するというのは、探偵になるようなものです。「容疑者」（独立変数）を見つけ出し、「この容疑者は何が起きたのかをどれだけうまく説明できるか？」を解明する作業なのです。

この章では、単にモデルを作るだけでなく、そのモデルが実際に機能しているかを確認する方法を学びます。「成績表」（ANOVA表）の読み方を学び、「係数のバイタルサイン」をチェックし、そのモデルが傑作なのか、単なるノイズに過ぎないのかを見極めましょう。さあ、始めましょう！

1. 基本：実際に見ているものは何か？

重回帰分析（Multiple Linear Regression: MLR）を実行するとき、私たちは次のような式を見ています。
\( Y_i = b_0 + b_1X_{1,i} + b_2X_{2,i} + ... + b_kX_{k,i} + \epsilon_i \)

覚えておくべき重要用語：
• 従属変数 (\( Y \)): 予測したい対象（例：株式リターン）。
• 独立変数 (\( X \)): \( Y \) に影響を与えていると考えられる「要因」（例：金利、GDP成長率）。
• 切片 (\( b_0 \)): すべての \( X \) がゼロの場合の \( Y \) の値。
• 傾き係数 (\( b_j \)): 他のすべての変数を一定に保った状態で、その特定の \( X \) が1単位変化したときに \( Y \) がどれだけ変化するかを示す値。

現実世界の例え：住宅価格を予測していると想像してください。住宅の広さ（平方フィート）と寝室の数が \( X \) 変数です。切片は土地の基本価格であり、寝室の数の傾きは、広さが同じであると仮定した場合に、寝室が1つ増えるごとに価格がどれだけ上昇するかを示します。

まとめ：回帰分析は、複数の要因と一つの結果との関係を定量化するのに役立ちます。

2. 適合度の評価：モデルは機能しているか？

コンピュータが回帰分析の結果を出力した後、それが妥当なものかどうかを知る必要があります。そのためにいくつかの重要な指標を使います。

A. 決定係数 (\( R^2 \))

\( R^2 \) は、従属変数（\( Y \)）の変動のうち、独立変数（\( X \)）によって説明できる割合を示します。
• 0から1の範囲をとります。
• \( R^2 \) が 0.80 なら、私たちのモデルは \( Y \) の動きの80%を説明していることになります。素晴らしいですね！

B. \( R^2 \) の問題点と「修正済み \( R^2 \)」による解決

ご存知ですか？モデルに変数を追加し続けると（たとえ「公園にいるリスの数」のような無意味な変数であっても）、\( R^2 \) はほとんどの場合上昇してしまいます。これは罠です！これを解決するために修正済み \( R^2 \)（Adjusted \( R^2 \)）を使います。

修正済み \( R^2 \) は、役に立たない変数を追加するとペナルティを科す仕組みです。計算式は以下の通りです。
\( \bar{R}^2 = 1 - [(\frac{n-1}{n-k-1}) \times (1-R^2)] \)

重要なルール：修正済み \( R^2 \) は常に \( R^2 \) 以下になります。変数を追加して修正済み \( R^2 \) が下がった場合、その変数は「足手まとい」であり、含めるべきではありません。

C. 推定の標準誤差 (SEE)

SEE は、実際のデータポイントが回帰直線から平均してどれだけ離れているかを示します。モデルが犯す「平均的なミス」だと考えてください。
• SEEが低い = 高精度（データポイントが直線に近い）。
• SEEが高い = 低精度（データポイントがバラバラに散らばっている）。
\( SEE = \sqrt{\frac{SSE}{n-k-1}} \)

クイック復習：\( R^2 \) は「どれだけ説明できたか」、SEEは「どれだけ見逃したか」です。

3. ANOVA表：モデルの成績表

「ANOVA（分散分析）」という言葉に恐れることはありません。これは、データの総変動を「説明できる部分」と「説明できない部分」に分解しているだけの表です。

1. 総平方和 (SST): データにおける全変動。
2. 回帰平方和 (RSS): モデルによって説明された変動。
3. 残差平方和 (SSE): 説明できなかった「残り物」の変動（ノイズ）。

黄金律： \( SST = RSS + SSE \)

暗記のコツ：ピザ（SST）を想像してください。あなたが食べた部分が RSS（成功！）、捨ててしまった耳の部分が SSE（誤差・無駄）です。

重要なポイント：ANOVA表から、\( R^2 \) は \( RSS / SST \) として計算できます。

4. 仮説検定：結果は本物か？

分析結果が統計的に有意なのか、単なる偶然なのかを判断するために、主に2つのテストを使います。

A. t検定（個々の係数の検定）

t検定を使用して、一つの独立変数が実際に役立っているかを調べます。
帰無仮説 (\( H_0 \)): 係数はゼロ（\( b_j = 0 \)）、つまり影響がない。
対立仮説 (\( H_a \)): 係数はゼロではない（\( b_j \neq 0 \)）。

検定統計量： \( t = \frac{\hat{b}_j - 0}{s_{\hat{b}_j}} \)
（係数をその標準誤差で割ったもの）。

判断ルール：計算した \( t \) 値の絶対値が（表から求めた）臨界値よりも大きければ、帰無仮説を棄却します。つまり、その変数は「統計的に有意」であるということです。

B. F検定（モデル全体の検定）

F検定は、少なくとも一つの独立変数が役立っているかを調べます。モデル全体を評価するテストです。
帰無仮説 (\( H_0 \)): すべての傾き係数がゼロ（\( b_1 = b_2 = ... = b_k = 0 \)）。
対立仮説 (\( H_a \)): 少なくとも一つの傾き係数がゼロではない。

\( F = \frac{MSR}{MSE} = \frac{RSS/k}{SSE/(n-k-1)} \)

よくある間違い：t検定とF検定の使い分けで混乱する人が多いです。覚え方はこれ：T は Tiny details（個々の変数）、F は Full Frame（モデル全体）です。

5. 線形回帰の仮定

回帰分析の結果が有効であるためには、ルールに従う必要があります。これらの仮定が破られると、モデルは嘘をつく可能性があります！暗記用の頭字語"LINE"を使って覚えましょう：

• L - Linearity（線形性）: \( X \) と \( Y \) の関係は直線でなければならない。
• I - Independence（独立性）: 観測値（誤差）同士に相関がない。
• N - Normality（正規性）: 誤差項が正規分布に従っている。
• E - Equal Variance（等分散性）: 誤差の「広がり」が一定であること。\( X \) が大きくなるにつれてバラツキが激しくなってはいけない。

まとめ："LINE"が満たされていれば、そのモデルは通常"BLUE"（最良線形不偏推定量）と呼ばれます。

6. 予測値の信頼区間

モデルがあれば、将来の \( Y \) を予測できます。しかし世界は不確実なため、一つの数字だけを提示するのではなく、範囲を提示します。

計算：
\( \hat{Y} \pm (t_c \times s_f) \)
ここで \( \hat{Y} \) は予測値、\( t_c \) は臨界値、\( s_f \) は予測の標準誤差です。

重要な注意：予測に使う \( X \) の値が、過去の平均値から離れるほど、信頼区間は広くなり（不確実性が高まり）ます。「普通」の範囲よりも、未知の極端な数値を予測する方が難しいからです！

最終確認ボックス

• \( R^2 \): 「物語」をどれだけ説明できたか（0〜1）。
• 修正済み \( R^2 \): \( R^2 \) と同じだが、無意味な変数の追加にペナルティを科す。
• t検定: 1つの変数が有意かをチェックする。（自由度 \( df = n - k - 1 \)）
• F検定: モデル全体が有意かをチェックする。（自由度は \( k \) と \( n - k - 1 \)）
• SEE: モデルの平均的な「ミス」または誤差。
• 自由度 (\( df \)): \( n \) は観測値の数、\( k \) は独立変数の数。

公式が恐ろしく見えても心配しないでください。CFA試験では、すべてをゼロから計算することよりも、ANOVA表やt値を解釈することが求められる傾向にあります。数字が何を伝えているかを理解することに集中しましょう！