歡迎來到「決戰時刻」：線性模型 vs. 樹狀模型！

未來的精算師們，歡迎！在本章中，我們將深入探討 Exam ATPA 最重要的實務技能之一：比較線性方法與樹狀方法的結果。這可以視為一場「泰坦之戰」。一邊是經典、可靠的線性模型（如 GLM）；另一邊則是現代、靈活的樹狀模型（如隨機森林和 XGBoost）。

選擇「最佳」模型不僅僅是挑選誤差最低的那一個，更重要的是理解為什麼某個模型的表現優於另一個，以及它們的預測方式有何不同。如果現在覺得這些概念有點抽象，別擔心，我們將會逐一拆解！

1. 理解基本差異

在比較結果之前，我們需要先回顧這兩者在「思考模式」上的差異。

線性模型（直線思維）：這些模型假設輸入變數與目標變數之間的關係是一條直線（或平滑曲線）。它們具有加法性 (additive)。
類比： 想像你在烘焙蛋糕。線性模型會認為：「每一杯額外的糖都會精確增加 100 卡路里，無論你用了多少麵粉。」

樹狀模型（流程圖思維）：這些模型使用一系列的「如果-那麼 (if-then)」分支。它們非常擅長找出交互作用 (interactions) 和非線性模式。
類比： 樹狀模型會認為：「如果你加了超過 2 杯糖，且烤箱溫度高於 400 度，蛋糕就會烤焦（這是『糟糕程度』的非線性跳躍）；但如果烤箱溫度低，糖份多寡就沒那麼重要了。」

快速複習：核心對比

線性模型：可解釋性 (interpretability) 高，但除非你手動加入交互作用項，否則難以處理複雜且「彎曲」的數據關係。
樹狀模型：靈活性 (flexibility) 高，非常擅長自動捕捉複雜模式，但對董事會解釋時可能會遇到困難（所謂的「黑箱」問題）。

2. 比較預測效能

當你在 ATPA 專案中同時執行 GLM（線性）和 GBM（樹狀）模型時，你需要比較它們的實際預測表現。我們通常會檢視以下指標：

必須關注的關鍵指標：

1. RMSE (均方根誤差)：告訴我們預測結果平均偏離實際值多少。數值越低越好！
2. MAE (平均絕對誤差)：類似於 RMSE，但對巨大的離群值 (outliers) 較不敏感。
3. Deviance (離差)：常在 GLM 中用於評估模型與數據分佈的擬合程度。

「恍然大悟」時刻：如果你的樹狀模型 RMSE 遠低於線性模型，這是一個巨大的訊號，代表你的數據中存在線性模型未能捕捉到的非線性關係或複雜交互作用。

應避免的常見錯誤：

過擬合陷阱 (The Overfitting Trap)：樹狀模型在訓練數據 (Training Data) 上表現完美，並不代表它比較好。務必比較在測試數據 (Test Data)（或透過交叉驗證）上的表現。樹狀模型以「死記」訓練集中的雜訊而聞名！

3. 比較預測結果的「形狀」

比較這些模型最好的方法之一，是觀察它們的預測值與實際值 (Predicted vs. Actual) 圖或殘差 (Residual) 圖。

線性模型殘差：如果你看到線性模型的殘差圖呈現「U 型」，代表模型漏掉了一個曲線。它就像試圖用一把直尺去擬合一個圓碗。
樹狀模型預測：樹狀模型會產生「階梯函數」。如果你繪製預測圖，它們看起來就像樓梯。如果真實關係其實是一條平滑的直線，樹狀模型反而可能表現得更差，因為它試圖把平滑的斜坡變成樓梯。

你知道嗎？樹狀模型無法進行外推 (extrapolation)。如果你的訓練數據中房價最高為 100 萬美元，樹狀模型幾乎永遠不會預測出一棟更大房子的價格為 200 萬美元。它只能預測在已知範圍內的值。然而，線性模型卻能很開心地順著直線持續上升！

4. 特徵重要性 vs. 係數

模型如何告訴我們什麼變數很重要？這也是 ATPA 考試中的一個主要比較重點。

線性模型使用係數 (\(\beta\))：
我們觀察係數的大小和 p-value。
範例：係數 0.5 意味著「X 每增加 1 個單位，目標變數增加 0.5」。這是非常精確的。

樹狀模型使用變數重要性 (Variable Importance)：
這通常基於增益 (Gain)（即當我們利用該變數進行分支時，模型的「純度」提升了多少）。它不會給你像「增加 0.5」這樣簡單的規則，它只會告訴你哪些變數在進行分支時最有用。

策略建議：如果兩個模型都認為「年齡」是最重要的變數，那麼你可以對這個發現非常有信心！如果它們意見不合，請調查原因。也許「年齡」只有在「收入」較低時才重要（交互作用），這是樹狀模型發現但線性模型漏掉的地方。

5. 「精算選擇」：為什麼選這個而不選那個？

在 ATPA 書面報告中，你通常需要證明模型選擇的合理性。使用此「關鍵總結」表格來協助你決策：

選擇線性模型 (GLM) 的情況：

  • 變數關係大致簡單且具有加法性。
  • 監管機構要求提供清晰、基於公式的解釋（例如 \(Y = 2x_1 + 3x_2\)）。
  • 你的數據集較小，複雜的樹狀模型可能會過擬合。

選擇樹狀模型 (GBM/隨機森林) 的情況：

  • 預測準確度是首要考量。
  • 數據包含複雜的交互作用，且你不想手動編寫程式碼來加入。
  • 數據包含大量缺失值或離群值（樹狀模型處理這些情況的能力強得多！）。

總結與關鍵要點

1. 邏輯：線性模型是加法性且平滑的；樹狀模型基於分支且呈「階梯狀」。
2. 交互作用：樹狀模型能自動發現交互作用；線性模型需要你手動設定交互作用項。
3. 外推：線性模型可以預測訓練範圍之外的值；樹狀模型不行。
4. 驗證：務必使用測試/預留數據 (Test/Holdout data) 來比較 RMSE 等效能指標，以避免過擬合陷阱。
5. 可解釋性：線性模型提供清晰的係數；樹狀模型提供相對重要性排序。

最後的鼓勵：不要感到壓力，一定要選最「複雜」的模型。有時最簡單的線性模型反而是最穩健的。在 ATPA 中，對「為什麼選擇該模型」的解釋，通常與模型的準確性一樣重要！