殘差分析與模型驗證簡介

歡迎來到「回歸理論及應用」章節中最具實用價值的內容之一！到目前為止，你已經學習了如何擬合簡單線性回歸和廣義線性模型 (GLM)。但我們該如何判斷所建立的模型是否真的好用呢？

把建立模型想像成裁製一套西裝：你會先測量尺寸（擬合模型），但隨後你必須親自試穿並照照鏡子，看看哪裡太緊或哪裡太寬。殘差分析就是那個「照鏡子」的檢查過程。我們會觀察「剩餘的部分」（即殘差），看看模型是否遺漏了數據中的任何重要模式。

在本章中，我們將學習如何利用殘差來驗證模型，確保模型在進行精算預測時準確可靠。

1. 什麼是殘差？

殘差（Residual）簡單來說，就是實際發生的情況（觀測值）與模型預測結果（預測值）之間的差異。

對於特定的觀測值 \(i\)，殘差 \(e_i\) 的計算方式如下：

\(e_i = y_i - \hat{y}_i\)

其中：

\(y_i\) = 反應變數（Response variable）的觀測值。
\(\hat{y}_i\) = 模型算出的預測值（或稱擬合值，Fitted value）。

最終目標：如果模型是完美的，殘差應該看起來像「白噪音」（White noise）——完全隨機且沒有任何可辨識的規律。如果我們發現了某種模式，就代表模型「漏掉」了一些信息。

2. 線性回歸中的殘差分析

在標準線性回歸模型中，我們對誤差項 (\(\epsilon\)) 有幾項基本假設。我們利用殘差來檢查這些假設在現實中是否成立。

A. 檢查線性（Linearity）與常數方差（Constant Variance）

我們通常會將殘差 (\(e_i\)) 放在 y 軸，將擬合值 (\(\hat{y}_i\)) 放在 x 軸進行繪圖。

觀察重點：

  • 隨機分佈的「點雲」： 這是理想情況！這表示變數之間具備線性關係，且方差是常數（即具備同方差性 homoscedasticity）。
  • 「漏斗」形狀： 如果點雲隨著擬合值的增加而變得愈來愈寬，代表方差並非定值。這稱為異方差性（heteroscedasticity）。
  • 曲線模式（U 形）： 這表示變數之間的關係並非直線，我們可能需要加入非線性項（例如 \(x^2\)）。

B. 檢查正態性（Normality）

在 CS1 課程中，我們通常假設殘差服從正態分佈，具體為 \(e_i \sim N(0, \sigma^2)\)。為了檢查這一點，我們會使用 Q-Q 圖（分位數圖）。

小貼士：在 Q-Q 圖上，如果點大致落在對角直線上，則滿足正態性假設。如果線的兩端顯著彎曲，數據可能存在「肥尾」（Fat tails）或偏態（Skewed）。

C. 檢查獨立性（Independence）

如果數據是按時間順序收集的，我們會按時間順序繪製殘差圖。如果看到「蛇形」模式或某種趨勢，說明觀測值之間可能存在相關性，這違反了獨立性假設。

核心要點：如果殘差不是隨機的，你的模型就會存在偏差或缺乏效率。這時你就需要重新審視模型的設計了！

3. 廣義線性模型 (GLM) 中的殘差

在 GLM 中，「原始」殘差 (\(y - \hat{y}\)) 的參考價值較低，因為方差通常會隨平均值改變（例如在泊松模型中，方差等於平均值）。因此，我們會使用「縮放」後的殘差版本。

皮爾森殘差 (Pearson Residuals)

皮爾森殘差 (\(r_P\)) 是將原始殘差除以分佈的標準差來進行縮放：

\(r_{P,i} = \frac{y_i - \hat{\mu}_i}{\sqrt{Var(Y_i)}}\)

這種處理方式使殘差標準化，讓我們能更容易地在解釋變數的不同數值之間進行比較。

離差殘差 (Deviance Residuals)

離差殘差 (\(d_i\)) 衡量每個觀測值對模型總離差（Deviance）的貢獻程度。離差是衡量模型與數據之間「不吻合度」的指標。

為什麼要使用它？ 在 GLM 中，離差殘差通常比皮爾森殘差更受青睞，因為它們的分佈通常比皮爾森殘差更接近正態分佈，在診斷圖中更容易解讀。

4. 模型驗證：模型是否可以接受？

觀察完圖表後，我們可以使用正式的統計檢定來決定模型是否「可以接受」。教學大綱中強調了 GLM 的兩項主要檢定。

A. 皮爾森卡方檢定 (Pearson’s Chi-square Test)

我們可以使用皮爾森殘差的平方和來進行擬合優度檢定。統計量為：

\(X^2 = \sum r_{P,i}^2\)

在模型正確的虛無假設下，\(X^2\) 服從卡方 (\(\chi^2\)) 分佈。如果計算出的統計量遠大於表中的臨界值，我們就會拒絕該模型。

B. 似然比檢定 (Likelihood-Ratio Test, LRT)

這用於比較兩個模型：一個「虛無」模型（較簡單）和一個「備選」模型（較複雜）。我們想看看增加更多的解釋變數是否能顯著改善擬合效果。

該檢定統計量基於離差 (\(D\))：

\(LRT = D_{Simple} - D_{Complex}\)

判斷法則：如果離差的降幅 (\(LRT\)) 很大，則較複雜的模型顯著較優。我們會將此差異與 \(\chi^2_k\) 分佈進行比較，其中 \(k\) 是額外增加的參數個數。

5. 常見陷阱與學生建議

如果起初覺得這些概念很棘手，請不要擔心！ 以下是應避免的一些常見陷阱：

  • 混淆「相關性」與「擬合度」： 高 \(R^2\)（判定係數）並不總是代表模型是好的。務必檢查你的殘差圖！一個模型的 \(R^2\) 可能很高，但殘差中仍可能存在非線性模式。
  • 離群值 (Outliers)： 單一個「怪異」的數據點就可能將回歸線拉離其餘數據。殘差圖能幫你識別這些離群值——它們會是那些遠離零線的點。
  • Paper B (R 語言) 貼士： 在 R 中，你經常會使用 plot(model_name) 指令。這會自動生成四張診斷圖，包括「殘差對擬合值圖」和「正態 Q-Q 圖」。試著練習用自己的語言來描述這些圖表！

你知道嗎？「殘差」(Residual) 一詞源自拉丁語 residuum，意為「剩餘的東西」。在精算學中，我們希望「剩餘」下來的東西純粹只是無法預測的隨機偶然！

總結清單

1. 殘差： \(y - \hat{y}\)。它們應該看起來是隨機的。

2. 線性回歸檢查： 使用圖表檢查線性、常數方差（同方差性）和正態性。

3. GLM 殘差： 了解皮爾森殘差（按方差標準化）與離差殘差（對總擬合度的貢獻）之間的區別。

4. 驗證檢定： 使用皮爾森卡方檢定和似然比檢定來正式決定模型是否可接受，或者是否需要更複雜的模型。