線形回帰の世界へようこそ!
未来のFRMホルダーの皆さん、こんにちは!「線形回帰」という名前に気後れする必要はありませんよ。この章の本質は非常にシンプルで、「関係性を見つけること」に尽きます。金融の世界では、ある要素(金利など)が別の要素(債券価格など)にどのような影響を与えるかを常に探ろうとしています。線形回帰は、散らばったデータの中に「最適な直線」を引くことで、実際に何が起きているのかを可視化するための数学的ツールです。これまで散布図を見て、点の間を縫うように直線を引こうとしたことがあるなら、すでに回帰分析の基本を実践しているのと同じですよ!
このノートを読み終える頃には、モデルの構築方法、「ベータ(Beta)」係数が実際に何を意味するのか、そして作成したモデルが信頼できるツールなのか、それとも単なる偶然の産物なのかを判断できるようになっているはずです。
1. 単回帰モデル(Simple Linear Regression Model)
単回帰分析では、2つの変数、つまり被説明変数(\(Y\))と説明変数(\(X\))の関係を調べます。
回帰式:
\( Y_i = \beta_0 + \beta_1 X_i + \epsilon_i \)
各要素を分かりやすく分解してみましょう。
• \(Y_i\)(被説明変数): 予測または説明しようとしている対象です。(例:株式のリターン)
• \(X_i\)(説明変数): \(Y\)に影響を与えていると考える要因です。(例:市場のリターン)
• \(\beta_0\)(切片): \(X\)がゼロの時の\(Y\)の値です。グラフ上では、直線が縦軸と交わる点を指します。
• \(\beta_1\)(傾き係数): これが最も重要です!\(X\)が1単位変化したときに、\(Y\)がどれだけ変化するかを示します。
• \(\epsilon_i\)(誤差項): いわゆる「ノイズ」です。現実のデータは決して完璧ではありません。この誤差項は、モデルに含めなかったものの、\(Y\)に影響を与えるその他のすべての要因を指します。
現実の例: 勉強時間(\(X\))に基づいた試験の点数(\(Y\))を考えてみてください。\(\beta_1\)は、1時間多く勉強するごとに何点アップするかを示します。\(\epsilon\)は、睡眠不足や試験会場の騒音といった個別の要因です。
ここがポイント: 回帰分析は、ある変数が変化したときに、もう一方の変数がどれだけ動くかを定量化するのに役立ちます。
2. 最小二乗法(OLS)による推定
では、どのようにして「最適な」直線を見つけるのでしょうか?そこで使うのが最小二乗法(Ordinary Least Squares:OLS)です。最初は難しく感じるかもしれませんが、概念自体はとても直感的ですよ。
OLSは、実際のデータポイントと直線の間にある垂直方向の距離の二乗和を最小にするような直線を引く手法です。距離を二乗するのは、プラスの誤差とマイナスの誤差が打ち消し合わないようにするためであり、すべての「予測のズレ」に対してペナルティを与えるためです。
公式(参考用):
推定された傾き(\(\hat{\beta}_1\))は次のように計算されます。
\( \hat{\beta}_1 = \frac{Cov(X, Y)}{Var(X)} \)
切片(\(\hat{\beta}_0\))は次のように計算されます。
\( \hat{\beta}_0 = \bar{Y} - \hat{\beta}_1 \bar{X} \)
クイック復習: OLSは二乗誤差を最小にすることで「最適適合」の直線を提供します。この直線は必ず\(X\)の平均値と\(Y\)の平均値を通ります。
3. ゴールデンルール:OLSの仮定
OLSが信頼できる結果(「最良線形不偏推定量」=BLUE)をもたらすためには、特定のルールを守る必要があります。これらのルールが破られると、モデルが誤った信号を送る可能性があります!
1. 線形性: \(X\)と\(Y\)の関係は直線でなければなりません。
2. ランダムサンプリング: データは母集団を代表するものである必要があります。
3. 完全な共線性がないこと: \(X\)は実際に変動する必要があります。もし\(X\)が常に同じ値なら、\(Y\)への影響を測ることができません。
4. 外生性: 誤差項は\(X\)と関連があってはいけません。つまり \(E(\epsilon | X) = 0\) である必要があります。これが破られると、脱落変数バイアスが生じます。
5. 等分散性: 誤差項の「広がり(分散)」は、\(X\)のすべての値において一定である必要があります。
豆知識: これらの仮定が満たされるとき、OLS推定量は利用可能な中で最も効率的になります。これをガウス=マルコフの定理と呼びます。
4. 適合度:モデルの精度をどう測る?
直線が得られたら、そのモデルが実際に役に立つのかを確認しなければなりません。その指標として決定係数(\(R^2\))を使います。
\(R^2\)の解説:
\(R^2\)は、\(Y\)の変動のうち、\(X\)によって説明できる割合を示します。
• \(R^2\)が0.80であれば、\(Y\)の動きの80%はモデルで説明できることを意味します。
• \(R^2\)の値は常に0から1の間に収まります。
公式:
\( R^2 = \frac{回帰変動 (ESS)}{総変動 (TSS)} \)
または: \( 1 - \frac{残差変動 (SSR)}{TSS} \)
覚え方のコツ: TSSを「ピザ全体」と考えてください。ESSは実際に食べた部分(説明できた部分)、SSRは残された耳の部分(説明できなかった誤差)です。
5. 仮説検定:その関係は本物か?
傾き(\(\beta_1\))が見つかったからといって、それが「本物」とは限りません。単なるサンプルにおける偶然の産物かもしれません。そこでt検定を使って確認します。
検定のステップ:
1. 帰無仮説(\(H_0\))の設定: 通常は \(\beta_1 = 0\)(\(X\)は\(Y\)に何の影響も与えない)と仮定します。
2. t値の計算:
\( t = \frac{\hat{\beta}_1 - 仮説の値}{ \hat{\beta}_1 の標準誤差 } \)
3. 臨界値との比較: t値の絶対値が臨界値(5%有意水準なら通常は約2.0)よりも大きければ、帰無仮説を棄却します!
重要用語: p値とは、もし帰無仮説が真であった場合に、この結果が得られる確率です。p値が小さい(通常0.05未満)ということは、その関係が「統計的に有意である」ことを意味します。
注意すべき間違い: 統計的有意性と経済的有意性を混同しないようにしましょう。変数が統計的に有意(p < 0.05)であっても、傾き(\(\beta_1\))が極めて小さければ、金融の現実世界では無視できるほど影響がない場合もあります。
6. 信頼区間
推定値を一つの数字で表す代わりに、幅を持たせて提示することもあります。これが信頼区間です。
公式:
\( \hat{\beta}_1 \pm (t_{臨界値} \times SE_{\hat{\beta}_1}) \)
95%信頼区間をとるということは、真の母集団パラメータがこの範囲内に収まる確率が95%であると確信していることを意味します。もしこの範囲に0が含まれていれば、その関係は統計的に有意とは言えません!
クイックまとめ表:
• t値が高い(> 2): 有意な関係あり
• p値が低い(< 0.05): 有意な関係あり
• 信頼区間に0を含む: 有意ではない
最後に
線形回帰は、計量ファイナンスのバックボーンです。株式の「ベータ」を計算する際も、インフレ率を予測しようとする際も、これらのツールを使っています。OLSは二乗誤差を最小化する、\(R^2\)は適合度を測る、そしてt検定は有意性をチェックする。この3つの柱を忘れなければ、FRM試験のこのセクションはバッチリですよ!