イントロダクション：「最適な当てはまり」のその先へ

前の章では、最小二乗法（Least Squares Estimation）を使って、散布図に「最適な当てはまり」となる直線を引く方法を学びました。しかし、アクチュアリーとしては、ただ直線を引いて終わりというわけにはいきません！「この関係は本当に実在するのか、それとも単なる偶然か？」「このモデルは実際にどの程度データに適合しているのか？」そして「このモデルを将来の予測に使う場合、どの程度信頼できるのか？」といったことを知る必要があります。

この章では、単に「線を引く」段階から、統計的推論（statistical inference）の段階へと進みます。結果をテストし、予測値に「誤差の範囲（エラーバー）」を設ける方法を学んでいきましょう。最初は数式が少し難しそうに見えるかもしれませんが、心配しないでください。一歩ずつ紐解いていきましょう！

1. 傾きパラメータ（\(\beta\)）の推論

傾き（\(\beta\)）は回帰モデルの心臓部です。これは、説明変数（\(X\)）が1単位増加したときに、目的変数（\(Y\)）がどれだけ変化するかを示しています。

傾きは有意か？

アクチュアリーの実務では、よく帰無仮説 \(H_0: \beta = 0\) を検定します。もし傾きがゼロであれば、説明変数は目的変数に何の影響も与えていないことになります。「帰無仮説を棄却する」ということは、そこに統計的な関係の証拠があると言っているのです。

傾きの標準誤差

傾きを検定するには、まずその標準誤差 \(se(\hat{\beta})\) を知る必要があります。これは、多くの異なるサンプルを抽出した場合に、推定値 \(\hat{\beta}\) がどれくらいバラつくかを測定するものです。

\(se(\hat{\beta}) = \sqrt{\frac{\hat{\sigma}^2}{S_{xx}}}\)

ここで：

  • \(\hat{\sigma}^2\) は推定された残差分散です（しばしば残差平均平方と呼ばれます）。
  • \(S_{xx}\) は \(x\) 値の平方和で、\(\sum (x_i - \bar{x})^2\) として計算されます。

傾きの t 検定

分散 \(\sigma^2\) を推定する必要があるため、正規分布ではなく t 分布を使用します。検定統計量は以下の通りです：

\(t = \frac{\hat{\beta} - \text{仮説値}}{se(\hat{\beta})}\)

標準的な有意性検定（\(H_0: \beta = 0\)）の場合、これは \(t = \frac{\hat{\beta}}{se(\hat{\beta})}\) と簡略化されます。これを、自由度 \(n - 2\) の t 分布と比較します。

ヒント： \(t\) 統計量の絶対値が大きい場合（ほとんどのサンプルサイズにおいて、通常2より大きい場合）、p 値は小さくなり、傾きは有意である可能性が高くなります！

2. 当てはまりの良さの尺度

たとえ傾きが有意であっても、モデル自体の精度が低い場合もあります。当てはまりの良さ（Goodness of Fit）は、モデルがデータの「背景にあるストーリー」をどれだけ説明できているかを教えてくれます。

決定係数（\(R^2\))

最も一般的な尺度は \(R^2\) です。これは、目的変数の全変動のうち、回帰モデルによって説明される割合を表します。

\(R^2 = \frac{SSR}{SST} = 1 - \frac{SSE}{SST}\)

ここで：

  • SST（全平方和）： データ全体の変動。
  • SSR（回帰平方和）： 直線によって説明される変動。
  • SSE（残差平方和）： 直線で説明しきれなかった変動（残差）。

\(R^2\) の解釈：

  • \(R^2 = 1\)：完璧な適合！すべてのデータポイントが直線上にあります。
  • \(R^2 = 0\)：モデルは何も説明していません。説明変数は役に立たないということです。
  • アクチュアリー向けの補足： 社会科学や複雑な保険金データでは、\(R^2\) が 0.2 や 0.3 でも有用とみなされることがありますが、物理科学などでは 0.9 以上が求められます。

知っていましたか？ 単回帰分析（\(X\) と \(Y\) が一つずつ）では、\(R^2\) は単にピアソンの相関係数（\(r\)）の2乗になります。つまり、\(r = 0.7\) であれば、\(R^2 = 0.49\) となります。

3. 予測区間：平均値 vs 個別の値

適合したモデル \(\hat{y} = \hat{\alpha} + \hat{\beta}x\) が手に入れば、それを使って将来の値を予測できます。ただし、予測には2つの異なるタイプがあり、その違いを知っておくことが極めて重要です！

A. 平均応答の信頼区間

これは、特定の \(x_0\) における \(Y\) の平均的な値を推定したいときに使います。例：「40歳の保険契約者全員の平均的な保険金請求額はいくらか？」

個々人の特異性を平均化して打ち消しているため、不確実性は小さくなります。

B. 個別の応答の予測区間

これは、特定の新しい1つのデータについて \(Y\) の値を予測したいときに使います。例：「40歳のスミスさんの具体的な保険金請求額はいくらか？」

黄金律： 個別の値の予測区間は、平均値の信頼区間よりも常に広くなります。なぜでしょうか？それは、個人の予測には「平均」が持つすべての不確実性に加えて、その人自身の個別のランダムな変動（\(\epsilon\)）が加わるからです。

「プラス1」のコツ：
平均応答の分散には \([ \dots ]\) のような項が含まれますが、
個別の応答の分散には \([ 1 + \dots ]\) という項が含まれます。
この追加の「1」は、単一の観測値が持つ固有の分散（\(\sigma^2\))を表しているのです。

4. ソフトウェア（R）の使用と出力の解釈

CS1のPaper B（プログラミング試験）では、これらを手計算することはありません。Rを使います。線形モデル（lm）の summary() 出力を読めるようになる必要があります。

Rの出力でチェックすべき重要項目：

  • Coefficients（係数）テーブル： \(\hat{\beta}\) については Estimate 列を、p 値については Pr(>|t|) 列を確認します。
  • Residual standard error（残差標準誤差）： これが \(\hat{\sigma}\) です。
  • Multiple R-squared： これが \(R^2\) の値です。

予測のためのコマンド例：
predict(model, newdata, interval = "confidence") — 平均値の場合
predict(model, newdata, interval = "prediction") — 個別の値の場合

クイック復習：避けるべきよくある間違い

  • \(R^2\) と相関係数の混同： \(R^2\) は関係の強さのみを示し、関係の方向（正か負か）は教えてくれないことに注意しましょう。相関係数（\(r\)）はその両方を教えてくれます。
  • 自由度： 単回帰分析では、t 検定や区間推定に常に \(n - 2\) の自由度を使用します。「2」は、私たちが推定した2つのパラメータ（\(\alpha\) と \(\beta\)）を表しています。
  • 外挿（Extrapolation）： 元のデータの範囲から大きく外れた \(x\) の値を予測する際は注意が必要です。その領域では「当てはまりの良さ」が維持されているとは限りません！

重要なまとめ： 統計的推論によって、不確実性を数値化することができます。t 検定で傾きを確認し、\(R^2\) でモデルの適合度をチェックし、ランダム性を考慮しながら予測区間で将来の値を予測しましょう。