残差分析とモデルの妥当性確認の概要

「回帰理論とその応用」セクションの中でも、特に実用的なチャプターへようこそ！これまでに、単回帰や一般化線形モデル（GLM）などのモデルの当てはめ方を学んできました。しかし、構築したモデルが実際に「優れた」ものかどうかは、どうすれば分かるのでしょうか？

モデルを構築することは、スーツを仕立てることに似ています。まず寸法を測り（モデルの当てはめ）、その後、実際に試着して鏡を見ながら、どこか窮屈だったり、ダブついていたりしないかを確認する必要があります。残差分析は、まさにその「鏡によるチェック」にあたります。データの中にモデルが捉えきれなかった重要なパターンが残っていないか、その「残りかす（残差）」を詳しく調べていくのです。

このチャプターでは、残差を使ってモデルの妥当性を確認し、アクチュアリーとしての予測に信頼がおけるものかどうかを検証する方法を学びます。

1. 残差とは何か？

残差とは、簡単に言えば「実際に起こったこと（観測値）」と「モデルが予測したこと」の差のことです。

特定の観測値 \(i\) について、残差 \(e_i\) は以下のように計算されます：

\(e_i = y_i - \hat{y}_i\)

ここで：

\(y_i\) = 応答変数の観測値
\(\hat{y}_i\) = モデルによる予測値（または適合値）

目指すべき姿： もしモデルが完璧であれば、残差は「ホワイトノイズ」のように見えるはずです。つまり、目立ったパターンのない、完全にランダムな状態です。もし何らかのパターンが見られるなら、それはモデルが何かを「見落としている」ことを意味します。

2. 線形回帰における残差分析

標準的な線形回帰モデルでは、誤差項（\(\epsilon\)）に関して複数の仮定を置きます。残差を用いることで、これらの仮定が実際に成り立っているかどうかをチェックできます。

A. 線形性と等分散性のチェック

通常、y軸に残差 (\(e_i\))、x軸に適合値 (\(\hat{y}_i\))をプロットします。

チェックポイント：

  • ランダムな点の「雲」： これは良い兆候です！関係が線形であり、分散が一定（等分散性）であることを示唆しています。
  • 「じょうご（ファンネル）」型： 適合値が大きくなるにつれて点の広がりが大きくなる場合、分散が一定ではありません。これを異分散性と呼びます。
  • 曲線パターン（U字型）： 変数間の関係が直線ではなく、非線形の項（\(x^2\) など）が必要である可能性を示唆しています。

B. 正規性のチェック

CS1では多くの場合、残差が正規分布に従う、具体的には \(e_i \sim N(0, \sigma^2)\) であると仮定します。これを確認するために、Q-Qプロット（分位点-分位点プロット）を使用します。

ヒント： Q-Qプロット上で、点がほぼ対角線上に並んでいれば、正規性の仮定は満たされています。線の両端が大きく曲がっている場合は、データが「裾の重い」分布であるか、歪んでいる可能性があります。

C. 独立性のチェック

データが時系列で収集されている場合は、残差を時間の順序に従ってプロットします。もし「ヘビのような」パターンやトレンドが見られる場合、観測値同士に相関がある可能性が高く、独立性の仮定に反しています。

重要なポイント： 残差がランダムでない場合、そのモデルは偏っているか、効率が悪いことになります。その場合は、モデルの設計をやり直す必要があります！

3. 一般化線形モデル（GLM）における残差

GLMでは、平均によって分散が変化することが多いため（例：ポアソンモデルでは分散＝平均）、通常の「生の」残差（\(y - \hat{y}\)）はあまり役に立ちません。そのため、スケーリングされた残差を使用します。

ピアソン残差

ピアソン残差 (\(r_P\)) は、生の残差を分布の標準偏差で割ったものです：

\(r_{P,i} = \frac{y_i - \hat{\mu}_i}{\sqrt{Var(Y_i)}}\)

これにより残差が標準化され、説明変数の異なる値の間での比較が容易になります。

デビアンス残差

デビアンス残差 (\(d_i\)) は、個々の観測値がモデル全体のデビアンス（乖離度）にどれだけ寄与しているかを測定します。デビアンスとは、モデルとデータとの「不一致度」を表す指標です。

なぜこれを使うのか？ GLMではデビアンス残差が好まれることが多いです。その理由は、ピアソン残差よりも分布が正規分布に近くなる傾向があり、診断プロットでの解釈がしやすいためです。

4. モデルの妥当性確認：そのモデルは受け入れ可能か？

プロットを確認した後は、形式的な統計検定を用いて、モデルが「受け入れ可能」かどうかを判断します。シラバスでは、GLMに関する主に2つの検定に焦点を当てています。

A. ピアソンのカイ二乗検定

ピアソン残差の二乗和を用いて、適合度検定を行うことができます。統計量は以下の通りです：

\(X^2 = \sum r_{P,i}^2\)

モデルが正しいという帰無仮説の下で、\(X^2\) はカイ二乗 (\(\chi^2\)) 分布に従います。計算された統計量が表の棄却限界値よりも大幅に大きい場合、そのモデルを棄却します。

B. 尤度比検定 (LRT)

これは、2つのモデル、すなわち「帰無モデル（単純なモデル）」と「対立モデル（より複雑なモデル）」を比較するために使用されます。説明変数を増やすことで、適合度が有意に向上するかどうかを確認します。

検定統計量はデビアンス (\(D\)) に基づいています：

\(LRT = D_{Simple} - D_{Complex}\)

判断の目安： デビアンスの減少量（\(LRT\)）が大きい場合、複雑なモデルの方が有意に優れていると言えます。この差を \(\chi^2_k\) 分布と比較します。ここで \(k\) は追加されたパラメータの数です。

5. よくある落とし穴と学習のアドバイス

最初は難しく感じるかもしれませんが、大丈夫です！ 避けるべきよくある罠をいくつか紹介します：

  • 「相関」と「適合」の混同： 決定係数 (\(R^2\)) が高いからといって、必ずしもそのモデルが良いとは限りません。必ず残差プロットを確認してください！ \(R^2\) が高くても、残差に非線形なパターンが残っていることがあります。
  • 外れ値： たった一つの「奇妙な」データポイントが、回帰直線を他のデータから引き離してしまうことがあります。残差プロットは、こうした外れ値を特定するのに役立ちます。ゼロのラインから大きく離れた点がそれにあたります。
  • Paper B (R言語) のヒント： Rでは、plot(model_name) というコマンドをよく使います。これにより、「残差 vs 適合値」や「正規 Q-Q プロット」を含む4つの診断プロットが自動的に生成されます。これらを自分の言葉で説明できるように練習しておきましょう！

豆知識： 「residual（残差）」という言葉は、ラテン語で「残ったもの」を意味する residuum に由来します。アクチュアリー科学において、私たちは「残ったもの」が純粋で予測不可能な「偶然」だけであることを望んでいるのです！

まとめチェックリスト

1. 残差： \(y - \hat{y}\)。ランダムに見える必要があります。

2. 線形回帰のチェック： プロットを使用して、線形性、等分散性（ホモスケダスティシティ）、正規性を確認します。

3. GLMの残差： ピアソン残差（分散で標準化）とデビアンス残差（全体の適合への寄与）の違いを理解しましょう。

4. 妥当性検定： ピアソンのカイ二乗検定や尤度比検定を使用して、モデルが受け入れ可能か、あるいはより複雑なモデルが必要かを形式的に判断します。