GLM（一般化線形モデル）の世界へようこそ！

こんにちは！これまで線形回帰を学んできた皆さんなら、それが強力なツールであることを実感しているはずです。でも、データがきれいな「ベルカーブ（正規分布）」に従わない場合はどうすればいいのでしょうか？例えば、自動車事故の件数（マイナスにはなりませんよね！）や、生命保険が失効するかどうか（「はい」か「いいえ」か）をモデリングしたいときはどうでしょう？

そこで登場するのが一般化線形モデル（GLM: Generalized Linear Models）です。この章では、GLMの「骨格」となる指数型分布族（Exponential Family）とリンク関数（Link Function）について見ていきます。指数型分布族を「確率分布のためのVIPクラブ」、リンク関数を「彼らが線形モデルと連携するための秘密の合言葉」だと考えてみてください。それでは、さっそく飛び込んでいきましょう！

1. 指数型分布族とは？

指数型分布族とは、共通の数学的構造を持つ確率分布のグループのことです。これらを特定の形式に当てはめることで、バラバラに見える多くの問題を一つの共通の枠組みで解くことができるようになります。

ある確率分布が指数型分布族に属するのは、その確率密度関数（または確率質量関数）を次のように書ける場合です：

\( f(y; \theta, \phi) = \exp \left( \frac{y\theta - b(\theta)}{a(\phi)} + c(y, \phi) \right) \)

数式を見て怖がらないでくださいね！この式の「登場人物」を整理してみましょう：

  • \( y \): 観測データ（応答変数）です。
  • \( \theta \) (シータ): 正準パラメータ（または自然パラメータ）と呼ばれます。分布の平均に関係しています。
  • \( \phi \) (ファイ): 分散パラメータです。データがどれくらい散らばっているか（尺度）に関係しています。
  • \( a(\phi) \), \( b(\theta) \), および \( c(y, \phi) \): これらは使用する分布（正規分布、ポアソン分布など）に応じて変わる関数に過ぎません。

なぜこれが便利なの？

例え話： ある運送会社が、特定のサイズの箱しか扱っていないと想像してください。車もピアノも、ビー玉の袋も運ぼうと思ったら、その標準の箱に入れなければなりません。一度箱に入れてしまえば、会社側は中身が何であるかは気にせず、すべての箱を同じように扱えます。指数型分布族の公式は、まさに統計学におけるその「標準の箱」なのです！

クイック復習：重要なパーツ

\( b(\theta) \) は平均と分散を決定するため、最も覚えるべき重要な関数です！これをキュムラント関数と呼びます。


2. 平均と分散を求める

指数型分布族の最もクールな点は、一度 \( b(\theta) \) を見つけてしまえば、単純な微分計算だけで平均と分散が求められることです。複雑な積分をする必要はありません！

平均：
\( Y \) の期待値（平均、\( \mu \)）は、\( b(\theta) \) の一階微分です：
\( E[Y] = \mu = b'(\theta) \)

分散：
\( Y \) の分散は、\( b(\theta) \) の二階微分と分散関数を使って次のように表されます：
\( Var(Y) = b''(\theta) a(\phi) \)

豆知識： \( b''(\theta) \) の部分は、しばしば分散関数と呼ばれ、\( V(\mu) \) と表記されます。これは平均が変化するにつれて分散がどう変わるかを表しています。正規分布では分散は一定ですが、ポアソン分布では平均が大きくなるほど分散も大きくなるんですよ！


3. 指数型分布族の代表選手たち

試験対策として、どの有名な分布がこのファミリーに属しているかを認識しておく必要があります。SRM試験でよく出るのは以下の通りです：

  • 正規分布（ガウス分布）: 標準的な連続データ用。
  • ポアソン分布: カウントデータ用（例：1年間に発生する保険金請求件数）。
  • 二項分布: 二値結果用（例：試験に合格したか？「はい」or「いいえ」）。
  • ガンマ分布および逆ガウス分布: 連続的かつ正の値を取り、「裾が重い」データ用（例：保険金請求額）。

よくある間違い： 標準的な線形回帰も、実は「正規分布」という分布を持つGLMの特別なケースに過ぎないということを忘れてしまう学生が多いので注意してください！


4. リンク関数：つなぎ役

標準的な線形モデルでは \( Y = \beta_0 + \beta_1 X \) としますが、もし \( Y \) が（請求額のように）正の値しか取れない場合、この式からマイナスの計算結果が出てきたら困りますよね。

そこで登場するのがリンク関数です。これはデータの平均（\( \mu \)）と線形予測子（\( \eta \)）を「つなぐ」役割を果たします。

式：
\( g(\mu) = \eta = \beta_0 + \beta_1 X_1 + \beta_2 X_2 + ... \)

例え話： リンク関数は「翻訳機」のようなものです。線形モデルは「実数（マイナス無限大からプラス無限大まで）」という言語を話し、データは「確率（0から1の間）」や「カウント（正の整数のみ）」という言語を話します。リンク関数は、モデルの出力がデータにとって意味のあるものになるよう翻訳してくれるのです。

覚えておくべき重要なリンク関数：

1. 恒等リンク（Identity Link）: \( g(\mu) = \mu \)。正規分布用。何も変更しません。
2. 対数リンク（Log Link）: \( g(\mu) = \ln(\mu) \)。ポアソン分布用。\( \mu = e^\eta \) となるため、予測される平均が常に正になることが保証されます。
3. ロジットリンク（Logit Link）: \( g(\mu) = \ln(\frac{\mu}{1-\mu}) \)。二項分布用。予測確率が常に0から1の間に収まることを保証します。


指数型分布族のすべての分布には、数学的に最も使いやすい「自然な」リンク関数が一つ存在します。これを正準リンク関数と呼びます。

これは、リンク関数を先ほど見た正準パラメータと等しく設定したときに起こります：
\( g(\mu) = \theta \)

クイック参照テーブル：

正規分布： 恒等リンク
ポアソン分布： 対数リンク
二項分布： ロジットリンク
ガンマ分布： 逆数リンク（\( 1/\mu \)）

難しく思えても大丈夫！ 単に「正準（Canonical）」とは、その分布にとっての「デフォルト」や「数学的に最もスッキリした」選択肢のことだと思っておけばOKです。


6. まとめと重要なポイント

GLM理論の核心を駆け抜けましたね！試験に向けて、以下のポイントを持ち帰りましょう：

  • 指数型分布族は、正規分布、ポアソン分布、二項分布、ガンマ分布などを含む一般的な形式です。
  • \( b(\theta) \) は最高の味方です。一階微分が平均を、二階微分が分散を求める助けになります。
  • リンク関数 \( g(\mu) \) は、平均と線形予測子（\( X\beta \)）をつなぎます。
  • 正準リンクは、\( g(\mu) = \theta \) となる特定の関数です。
  • 記憶のコツ： 二項分布のロジットリンクを思い出すには、「確率」→「オッズ」→「対数オッズ（Log-odds）」の順で考えてください。この対数オッズこそがロジット（Logit）なのです！

頑張ってください！ これらのピースがどう組み合わさるかを理解するのが一番の難関です。この「骨格」さえしっかりしていれば、あとのGLMの章はもっと直感的に感じられるはずですよ。あなたなら大丈夫！