重回帰分析の拡張へようこそ！

こんにちは！すでに基本の重回帰分析（MLR）をマスターした皆さんなら、それが予測のための強力なツールであることをご存知でしょう。しかし、現実の世界はもっと複雑です。データが単なる数値ではなくカテゴリー（「業種」や「格付け」など）であることもあれば、変数同士が奇妙な相互作用をすることもあります。そこで登場するのが、重回帰分析の拡張です。

この章は、いわば回帰分析の「プロ版」です。より複雑なシナリオを扱う方法を学び、財務分析におけるモデルの精度と有用性を高めていきましょう。最初は難しく感じるかもしれませんが、大丈夫です。一つずつ丁寧に紐解いていきましょう！

1. 質的独立変数（ダミー変数）

標準的な回帰分析では、「価格」や「利益」のような「量的」データを使います。しかし、「テクノロジーセクター」に属していることが株価の収益率に影響するかどうかを知りたい場合はどうでしょうか？「テクノロジー」という文字をそのまま数式に入れることはできません。そこで使うのがダミー変数です。

ダミー変数とは？

ダミー変数は「バイナリ（二値）」変数です。値は1（条件を満たす場合）か0（満たさない場合）のどちらかしか取りません。特定の特性に対するオン/オフスイッチのようなものだと考えてください。

「n-1」ルール（ダミー変数トラップ）

これは試験によく出る重要なトピックです！n個のカテゴリーがある場合、モデルに含めるダミー変数は必ず\( n-1 \)個にする必要があります。例えば、四季（春、夏、秋、冬）をモデル化する場合、ダミー変数は3つだけで十分です。

なぜでしょうか？ 春でも夏でも秋でもないとわかれば、それは必然的に「冬」だからです。4つすべてを入れてしまうと「完全な多重共線性」が発生し、モデルが破綻してしまいます。これをダミー変数トラップと呼びます。

切片の解釈

ダミー変数を含むモデルにおいて、切片 (\( b_0 \)) は「ベースケース」、つまりモデルから除外されたカテゴリー（すべてのダミー変数が0になるケース）を表します。ダミー変数の係数は、そのカテゴリーとベースケースとの差を示しています。

クイック復習ボックス：
- ダミー変数： 1か0の二値をとる。
- ダミー変数の数： カテゴリー数マイナス1。
- 切片： 除外されたカテゴリーを表す。

2. 相互作用項（インターアクション項）

ある変数の効果が、別の変数の値に依存することがあります。例えば、「職務経験年数」が「給与」に与える影響は、「男性」と「女性」で異なるかもしれません。これを捉えるために相互作用項を使います。

仕組み

相互作用項は、2つの独立変数を掛け合わせることで作成されます。モデルは以下のようになります：
\( Y = b_0 + b_1 X_1 + b_2 X_2 + b_3(X_1 \times X_2) \)

例え：コーヒーと砂糖
\( X_1 \) がコーヒー、\( X_2 \) が砂糖だと想像してください。\( b_1 \) はコーヒー単体の好み、\( b_2 \) は砂糖単体の好みです。しかし、相互作用項 \( b_3 \) は、それらを混ぜたときに生まれる「魔法」を捉えます。砂糖の効果は、コーヒーに入っているか、単独でなめているかによって変わるのです！

重要なポイント： 相互作用項の係数 (\( b_3 \)) が統計的に有意（p値 < 0.05）であれば、従属変数と \( X_1 \) の関係が \( X_2 \) の水準によって変化することを意味します。

3. 質的従属変数

これまでは数値（株価など）を予測してきましたが、カテゴリーを予測したい場合はどうでしょうか？例えば、「企業が破綻するか（Yes/No）」や「債券が格上げされるか（Yes/No）」などです。

このような場合、従属変数 (Y) は質的変数になります。主に次の3つのモデルが使われます。

A. プロビットモデルとロジットモデル

これらは結果がバイナリ（0か1）の時に使われます。Yの正確な値を予測するのではなく、Yが1になる確率を予測します。

  • ロジットモデル： 「ロジスティック」分布に基づいています。
  • プロビットモデル： 「正規」分布に基づいています。

注：CFA試験において、これらの背後にある複雑な数学を理解する必要はありません。確率を推定し、結果が必ず0から1の間に収まるように設計されていることだけ押さえておきましょう。

B. 判別分析

独立変数に基づいて「スコア」を作成し、観測値をグループに分類します。破綻予測に使われるZスコアを想像してください。スコアがあるしきい値を超えれば「健全」、下回れば「リスクあり」と判断します。

よくある間違い： 従属変数が0/1の場合に、標準的な線形回帰（OLS）を使ってはいけません。1.5や-0.2のような予測値が出てしまい、Yes/Noの問題として意味をなさなくなるからです！

4. モデル仕様の評価

モデルを作るのは簡単ですが、良いモデルを作るのは難しいものです。モデルの仕様（Model Specification）とは、適切な変数と適切な関数形式を選択することを指します。

欠落変数バイアス

重要かつモデルに含まれる変数と相関がある変数を無視すると、モデルの結果はバイアスがかかり、一貫性を失います。これは「材料の入れ忘れ」のような問題です。これにより、残りの係数が実際よりも重要（あるいは重要でない）に見えてしまいます。

不適切な変数形式

関係性が直線ではないこともあります。その場合はデータを変換する必要があります：
- ログ・ログモデル： Xのパーセント変化がYのパーセント変化をもたらすと期待される場合（定弾力性）。
- ログ・リンモデル： Yが一定のパーセント率で成長する場合（複利など）。
- リン・ログモデル： XがYに与える影響が徐々に小さくなる場合。

5. 外れ値と影響力のある点への対処

たった一つの「おかしな」データポイントが、回帰分析全体を台無しにすることがあります。これらを特定し、対処する必要があります。

外れ値 vs. 影響力のある点

  • 外れ値（Outlier）： 残差が非常に大きい観測値（回帰直線から遠く離れている）。
  • 高レバレッジ点（High Leverage Point）： 独立変数 (X) が極端な値を持つ観測値。
  • 影響力のある点（Influential Point）： 取り除くと推定された係数が大きく変化してしまう点。

どうやって見つける？

クックの距離（Cook’s D）： 最も一般的な指標です。クックの距離が大きければ、その特定のデータポイントは非常に影響力が強く、結果を歪めている可能性があります。

どうやって直す？

外れ値を含む「汚れた」データがある場合は、頑健回帰（Robust Regression）やM推定を使用できます。これらの手法は外れ値の重みを小さくし、回帰直線がデータの大部分から引きずられないようにします。

まとめチェックリスト：
1. ダミー変数を \( n-1 \) 個にしましたか？
2. 見落としている相互作用効果はありませんか？
3. 従属変数はカテゴリーですか？（Yesならロジット/プロビットを使用）
4. クックの距離を使って影響力のある外れ値を確認しましたか？

頑張ってください！あなたは実務のクオンツアナリストが毎日使っているツールを習得しつつあります。回帰分析は数学的に重く感じるかもしれませんが、本質はデータを通じて「ストーリーを語る」ことにあるのです。