モデル選択へようこそ!
こんにちは!ASTAMの学習をここまで進めてきた皆さんなら、すでにさまざまなモデルのパラメータを推定する方法はマスターしているはずです。しかし、ここで大きな疑問が生じます。結局、どのモデルを使うべきなのでしょうか?
この章では、データと数学的モデルの「仲人(マッチメーカー)」役になる方法を学びます。私たちが目指すのは、データによく適合しつつ、不必要に複雑ではないモデルです。その判断基準として、グラフを見る(グラフによる評価)、正式な品質チェックを行う(仮説検定)、モデルの複雑さに数学的な「ペナルティ」を課す(スコアベースの基準)という3つの主要なアプローチを探求していきます。
現時点で少し抽象的だと感じても心配はいりません。靴を買うときを想像してみてください。見た目が良く(グラフ)、履き心地のテストをパスし(仮説検定)、性能に対して高すぎない価格であるもの(スコアベースの基準)を選びたいですよね。さあ、詳しく見ていきましょう!
1. グラフによる評価:目で見て判断する
本格的な計算を行う前に、まずはデータを可視化することから始めます。グラフによる手順は、モデルがどこに適合し、どこで外れているかを確認するのに役立ちます。
経験分布関数 vs. 当てはめられた分布関数
実際のデータが示した分布である経験分布関数 \(F_n(x)\) と、モデルが予測する当てはめられた分布関数 \(F^*(x)\) を比較します。
差分プロット(Difference Plot)
差分プロットは、\(D(x) = F_n(x) - F^*(x)\) の値をグラフ化したものです。
• グラフがゼロに近いところで推移していれば、モデルは非常によく適合しています。
• 大きな「山」や「谷」がある場合、その特定の領域(裾野や中央付近など)でモデルが失敗していることを意味します。
p-pプロット(確率-確率プロット)
p-pプロットでは、対となる \((F^*(x_j), F_n(x_j))\) をプロットします。
• モデルが完璧であれば、すべての点は (0,0) から (1,1) を結ぶ45度の直線上に並びます。
• ヒント: p-pプロットはデータの「中央部」への適合度を見るには優れていますが、裾野(非常に大きい値や小さい値)の問題を見逃しやすい傾向があります。
重要なポイント
視覚的なチェックはモデルの「雰囲気」を掴むには最適ですが、主観的です。ある人が「これで十分近い」と思っても、他の人はそう思わないかもしれません。だからこそ、次のセクションである「仮説検定」が必要なのです!
2. 仮説検定:形式的な判断
仮説検定は、モデルが適合しているかどうかについて、数学的に「イエス」または「ノー」(より正確には「帰無仮説を棄却できない」または「棄却する」)の結論を出してくれます。
コルモゴロフ-スミルノフ (K-S) 検定
これはアクチュアリー数学で最も有名な検定の一つで、データとモデルの間の単一の最大乖離に着目します。
公式:
\(D = \max |F_n(x) - F^*(x)|\)
• 仕組み: すべての点におけるモデルとデータの距離を計算します。「検定統計量」は、その中で見つかった最大距離となります。
• 限界: K-S検定は個別の(グループ化されていない)データに対してのみ適用可能で、パラメータがデータから推定されていない場合に最適に機能します(実際には修正を加えて使われることも多いです)。
アンダーソン-ダーリング (A-D) 検定
A-D検定は、K-S検定をさらに厳しくした「厳しい先生」のようなものだと考えてください。K-S検定はすべての誤差を等しく扱いますが、A-D検定は裾野(テール)の部分に重点を置いた重み付けを行います。
なぜこれが重要なのか? 保険において、私たちは「裾野」(巨大で稀なクレーム)を非常に重要視します。平均的なクレームには完璧に適合していても、巨大なクレームを予測できないモデルは危険だからです!A-D検定は、このような見逃しを防ぐのに役立ちます。
尤度比検定 (LRT)
これは試験で非常によく出題されます。2つの入れ子(Nested)モデルを比較するときに使用します。
例え: 「基本モデル」(例:指数分布)と「拡張モデル」(例:ガンマ分布)を考えてみてください。指数分布はガンマ分布のパラメータを1つ固定したものなので、これらは入れ子の関係にあります。
手順:
1. 単純な(制約付き)モデルの対数尤度 \(\ell_0\) を計算する。
2. 複雑な(制約なし)モデルの対数尤度 \(\ell_1\) を計算する。
3. 統計量 \(T = 2(\ell_1 - \ell_0)\) を算出する。
4. \(T\) をカイ二乗 (\(\chi^2\)) 分布と比較する。
自由度: この検定における自由度は、2つのモデル間のパラメータ数の差になります。
重要なポイント
仮説検定は、悪いモデルを棄却するための構造的な手法です。忘れないでください: p値が小さい(通常 < 0.05)場合、そのモデルは適合していないと判断されます!
3. スコアベースの基準:適合度と複雑さのバランス
モデルにパラメータを追加し続ければ、適合度は常に「向上」しますが、モデルは使いにくいものになってしまいます。これを過学習(オーバーフィッティング)と呼びます。スコアベースの基準は、パラメータが多すぎるモデルに「ペナルティ」を課します。
赤池情報量基準 (AIC)
AICは、最小のパラメータ数で最も多くのデータを説明できるモデルを探そうとします。
公式:
\(AIC = -2\ell + 2k\)
(ここで \(\ell\) は対数尤度、\(k\) はパラメータ数です)
シュワルツベイズ基準 (SBC または BIC)
SBCはAICに似ていますが、パラメータ追加に対してより「厳しい」ペナルティを課します。特にデータ点数 (\(n\)) が多い場合に顕著です。
公式:
\(SBC = -2\ell + k \ln(n)\)
(ここで \(n\) は観測データの数です)
どちらを選ぶべき?
AICとSBCのどちらにおいても、値が小さいほどモデルとして優れています。
• 知っていましたか? \(\ln(n)\) は通常2より大きいため、SBCはほとんどの場合AICよりも厳格です。AICよりもさらに単純なモデルを好む傾向があります。
避けるべき一般的な間違い
• AICとSBCの混同: 「スコアが高い方が良い」と勘違いする学生が多いですが、違います!ゴルフと同じで、スコアが低い方が勝ち(優秀)です。
• 入れ子かそうでないか: 尤度比検定は、一方のモデルが他方の特殊ケースである場合(入れ子)にのみ使用できます。対数正規分布とワイブル分布を比較するなら、AICかSBCを使いましょう!
• SBCにおけるデータサイズ: SBCの \(\ln(n)\) 項を忘れないでください。サンプルサイズを考慮し忘れると、計算が誤りになります。
クイック復習ボックス
1. K-S検定: 最大の乖離 \(|F_n(x) - F^*(x)|\) を見る。
2. A-D検定: K-S検定に似ているが、裾野(テール)をより厳密にチェックする。
3. LRT: 入れ子モデルに使用。カイ二乗 (\(\chi^2\)) 分布を使用する。
4. AIC/SBC: 複雑すぎるモデルにペナルティを与える。小さいほど良い。
練習を続けましょう!モデル選択とは、選択肢を比較することです。この3つの手法をマスターすれば、なぜあるモデルが他のモデルより優れているのかを明確に説明できるようになります。あなたならきっと大丈夫!