単回帰分析（Simple Linear Regression）へようこそ！
これまでCFAの学習を通じて、平均値の計算方法やデータの記述方法を学んできましたね。では、「ある情報を使って別の事象を予測したい」場合はどうすればよいでしょうか？例えば、市場全体のパフォーマンスに基づいて、特定の株の収益率を予測することはできるのでしょうか？それこそが、単回帰分析（Simple Linear Regression: SLR）で実現できることです。これは、散布図上のデータポイントに対して「最も当てはまりの良い（ベストフィットな）」直線を引くことで、2つの変数の関係性を理解しようとする手法だと考えてください。
最初は数式を見て難しそうに感じるかもしれませんが、大丈夫です。一つずつ丁寧に分解して理解していきましょう！
1. 基本：何を作ろうとしているのか？
単回帰分析では、2つの変数の関係性に着目します。
1. 従属変数（Dependent Variable: Y）： 説明または予測したい対象となる変数です。「応答変数（Response variable）」や「被説明変数（Explained variable）」とも呼ばれます。
2. 独立変数（Independent Variable: X）： Yを説明するために用いる要因です。「説明変数（Explanatory variable）」や「予測変数（Predictor variable）」とも呼ばれます。
回帰方程式：
\( Y_i = b_0 + b_1X_i + \epsilon_i \)
各項の意味：
- \( Y_i \) ：従属変数
- \( b_0 \) ：切片（Intercept）（直線が縦軸と交わる点）
- \( b_1 \) ：傾き（Slope）（Xが1単位変化した時にYがどれだけ変化するか）
- \( \epsilon_i \) ：誤差項（Error Term）（実際のデータ点と直線の差）
実生活の例え： 外気温（X）に基づいて電気料金（Y）を予測すると想像してみてください。切片（\( b_0 \)）は、電気を全く使わなくてもかかる基本料金です。傾き（\( b_1 \)）は、気温が1度上がるごとに電気代がいくら増えるか、という値になります。
クイック・まとめ：
従属変数（Y） ＝ 知りたいこと
独立変数（X） ＝ すでに分かっていること
傾き（\( b_1 \)） ＝ 関係性の「強さ」と「向き」
2. 「ベストな」直線：最小二乗法（OLS）
どの直線が「ベスト」であるかをどうやって決めるのでしょうか？そこで使われるのが最小二乗法（Ordinary Least Squares: OLS）です。
OLS法は、実際のデータ点と回帰直線の間の垂直距離の二乗和を最小にするような直線を選びます。距離を二乗するのは、直線より上側の「外れ値」と下側の「外れ値」が相殺されてしまわないようにするためです。
豆知識： 実際の点と直線上の予測値との間の垂直距離のことを残差（Residual：\( \hat{\epsilon} \)）と呼びます。
3. 単回帰分析の前提条件
回帰モデルを信頼できるものにするためには、データについていくつかの前提条件が必要です。覚え方としてよく使われるのが「LINE」という語呂合わせです：
1. Linearity（線形性）： XとYの関係は直線であること。
2. Independence（独立性）： 観測値（誤差）は互いに独立していること。
3. Normality（正規性）： 誤差項は正規分布に従うこと。
4. Equal Variance（等分散性）： 誤差項の分散はすべてのXのレベルにおいて一定であること（これは「等分散性（Homoscedasticity）」という専門用語で呼ばれます）。
よくある間違い： 「等分散性（Homoscedasticity）」を忘れてしまう学生が多いです。こう覚えましょう：「Homo」は同じ、「scedasticity」は広がりを意味します。つまり、直線の全域にわたって誤差の「広がりが同じ」であることを求めているのです！
4. モデルの評価：どのくらい「フィット」しているか？
直線が引けたとしても、それが本当に役に立つものか判断する必要があります。主に3つのツールを使います：
A. 決定係数（\( R^2 \)）
\( R^2 \)は、Yの変動のうち、どれだけがXによって説明できるかを示す割合です。
- 範囲は0から1です。
- \( R^2 \) が0.80であれば、Yの動きの80%がXで説明できることを意味します。
- 単回帰分析において、\( R^2 \) は単純に相関係数（\( r \)）の二乗となります。
B. 推定の標準誤差（SEE: Standard Error of Estimate）
\( SEE \) は、データ点が回帰直線から離れている平均的な「距離」を測定します。
- 小さいほど良い！ \( SEE \) が小さいほど、データ点が直線に近く、予測の精度が高いことを示します。
C. 分散分析（ANOVA）
ANOVAは、従属変数の総変動を2つの部分に分解します：
1. SSR（回帰による平方和）： モデルによって説明できた変動。
2. SSE（残差平方和）： モデルが説明しきれなかった変動（「残り物」）。
3. SST（総平方和）： 全体の変動（\( SST = SSR + SSE \)）。
「ピザ」の例え： SSTをホールピザ1枚だと考えてください。SSRは友達が食べてくれた分（説明された部分）、SSEは床に落としてしまった分（説明できなかった部分/誤差）です。\( R^2 \) とは、結局のところ友達がうまく食べることができたピザの割合（\( SSR / SST \)）のことなのです。
5. 仮説検定：傾きに意味はあるのか？
計算で傾き（\( b_1 \)）が出たからといって、必ずしもそこに本質的な関係があるとは限りません。単なる偶然かもしれません！それを検証するためにt検定を行います。
帰無仮説（\( H_0 \)）： \( b_1 = 0 \) （関係性は全くない）。
対立仮説（\( H_a \)）： \( b_1 \neq 0 \) （有意な関係性がある）。
検証のために以下の計算を行います：
\( t = \frac{\hat{b}_1 - 0}{s_{b1}} \)
ここで \( s_{b1} \) は傾き係数の標準誤差です。
計算されたt統計量が臨界値（critical t-value）よりも大きければ、帰無仮説を棄却し、その関係性は統計的に有意であると結論付けます！
6. 予測を行う
ここからが楽しいパートです！係数（\( b_0 \) と \( b_1 \)）さえ分かれば、どんなXの値に対してもYを予測できます。
予測の手順：
1. 与えられた切片（\( b_0 \)）と傾き（\( b_1 \)）を確認する。
2. 与えられたXの値を代入する。
3. \( \hat{Y} = b_0 + b_1(X) \) を計算する。
例： \( b_0 = 2 \)、\( b_1 = 0.5 \) で、Xが10の時のYを予測したい場合：
\( \hat{Y} = 2 + 0.5(10) = 2 + 5 = 7 \)。
7. 回帰分析の限界
最後に、回帰分析は魔法ではないということを覚えておいてください。限界があります：
- 外れ値（Outliers）： 極端なデータが1つあるだけで、直線が「引っ張られ」、モデルが台無しになることがあります。
- 相関関係と因果関係： XとYが一緒に動くからといって、必ずしもXがYを「引き起こしている」とは限りません。（例：アイスクリームの売り上げとサメの被害数はどちらも夏に増えますが、アイスクリームがサメを襲わせるわけではありません！）
- 非線形な関係： 本来の関係が曲線である場合、直線で当てはめようとしても精度は低くなります。
クイック復習ボックス：
OLS： 残差の二乗和を最小化する。
\( R^2 \)： 「成績表」（高いほどフィットが良い）。
標準誤差（SEE）： 「ミス」の指標（低いほど良い）。
t検定： 傾きがゼロと有意に異なるかを調べる。
練習を続けましょう！単回帰分析は、Level IIやLevel IIIで学ぶほぼすべての高度なモデリングの基礎となります。あなたならきっと大丈夫です！