歡迎來到多變量矩的世界!
你好!你已經學會了如何求單一變量的平均值(期望值)和變異數。現在,我們即將踏入多變量的世界。你可以把這想像成從單純觀察一個人的身高,進階到研究其身高與體重之間的關係。
在這一章,我們會探討「矩」(moments)——這只是一個統計學上的高級詞彙,用來描述平均值與離散程度——也就是當兩個或多個變量產生交互作用時的情況。別擔心,儘管看到雙重積分或求和符號可能會讓你覺得有點「複雜」,但只要掌握其中的規律,你會發現它們其實非常容易處理!
1. 聯合期望值 (Joint Expected Values)
如果我們有兩個隨機變量 \(X\) 和 \(Y\),我們有時需要求出一個同時包含兩者的函數的平均值,例如 \(E[X + Y]\) 或 \(E[XY]\)。這就被稱為聯合期望值。
要計算任何函數 \(g(X, Y)\) 的期望值,你只需要將該函數乘以聯合機率密度(或質量)函數,然後對所有範圍進行加總或積分即可。
對於離散變量:
\( E[g(X, Y)] = \sum_{x} \sum_{y} g(x, y) \cdot p(x, y) \)
對於連續變量:
\( E[g(X, Y)] = \int_{-\infty}^{\infty} \int_{-\infty}^{\infty} g(x, y) \cdot f(x, y) \,dy \,dx \)
類比:想像地板上有一個方格網。每個方格上都寫著一個數值,同時每個方格也代表一定的「權重」(機率)。要算出整個房間的總體平均值,你只需將每個方格的數值乘以其對應的權重,然後全部加總起來。
快速複習:請記住期望值具有線性性質!這意味著 \(E[aX + bY + c] = aE[X] + bE[Y] + c\)。即使 \(X\) 和 \(Y\) 彼此相關,這個特性依然成立!
2. 協方差 (Covariance):衡量變量間的關係
協方差衡量的是兩個變量如何共同變化。如果當 \(X\) 增加時 \(Y\) 也增加,則協方差為正;如果當 \(X\) 增加時 \(Y\) 減少,則協方差為負。
在 Exam P 中你最常使用的公式是:
\( \mathbf{Cov(X, Y) = E[XY] - E[X]E[Y]} \)
重要提示:如果 \(X\) 和 \(Y\) 是獨立的,那麼 \(E[XY] = E[X]E[Y]\),這意味著它們的協方差為 0。但要小心!協方差為 0 不一定代表它們是獨立的(不過在 Exam P 的考試範圍內,這通常暗示沒有線性關係)。
相關係數 (\(\rho\))
協方差可以是任何數值,這使得它難以進行比較。相關係數將協方差縮放至 -1 到 1 之間。
\( \rho_{XY} = \frac{Cov(X, Y)}{\sigma_X \sigma_Y} \)
其中 \(\sigma_X\) 和 \(\sigma_Y\) 分別是 \(X\) 和 \(Y\) 的標準差。
關鍵點:協方差告訴你關係的方向;相關係數則同時告訴你關係的方向與強度。
3. 條件矩 (Conditional Moments)
有時我們會獲得關於其中一個變量的已知資訊,並要求求出另一個變量的平均值或變異數。這些就是條件矩。
條件期望值 (Conditional Expectation)
給定 \(Y = y\) 的情況下,\(X\) 的條件平均值為:
\( E[X | Y = y] = \int x \cdot f_{X|Y}(x|y) \,dx \)
本質上,你將 \(Y\) 視為常數,並使用條件機率密度函數來計算平均值。
條件變異數 (Conditional Variance)
這衡量的是在已知 \(Y\) 的情況下,\(X\) 的離散程度:
\( Var(X | Y = y) = E[X^2 | Y = y] - (E[X | Y = y])^2 \)
你知道嗎? \(E[X|Y]\) 本身其實就是一個隨機變量,因為它的取值取決於 \(Y\) 最後呈現的結果!這就引出了本章最重要的兩個定理。
4. 重點大將:疊代期望值與全變異數公式
這兩個公式在 Exam P 中是「黃金法則」。你幾乎肯定會在考試中用到它們。
疊代期望值定律 (Law of Iterated Expectations / Adam's Law)
此定律指出,「平均值的平均值」等於總體的平均值。
\( \mathbf{E[X] = E[E[X|Y]]} \)
例子:如果你想找出全校學生的平均身高,你可以先算出每個班級的平均身高 (\(E[X|Y]\)),然後再對這些平均值取平均。
全變異數定律 (Law of Total Variance / Eve's Law)
這個定律將總變異數拆解為兩部分:組內變異數(within groups)和組間變異數(between groups)。
\( \mathbf{Var(X) = E[Var(X|Y)] + Var(E[X|Y])} \)
記憶法:許多學生將其記為 "EV + VE" (Expected Value of Variance + Variance of Expected Value,即變異數的期望值 + 期望值的變異數)。
如果剛開始覺得這很難理解,別擔心! 只要記住第一部分 (\(E[Var]\)) 處理的是條件組內的「雜訊」,而第二部分 (\(Var(E)\)) 處理的是各組「平均值」本身的變化幅度。
5. 避免常見錯誤
1. 混淆邊際機率與條件機率:務必檢查你應該使用 \(f(x)\)(邊際)還是 \(f(x|y)\)(條件)。如果題目說「給定 \(Y=2\)...」,你必須使用條件密度函數!
2. 忘記將平均值平方:在使用變異數公式 \(Var(X) = E[X^2] - (E[X])^2\) 時,學生經常忘記將後一項平方。這同樣適用於條件變異數!
3. 假設 \(E[XY] = E[X]E[Y] \):只有當變量獨立時這才成立。如果聯合密度函數 \(f(x,y)\) 無法分解為 \(f(x)f(y)\),你必須進行積分 \(xy \cdot f(x,y)\)。
6. 總結清單
在進行練習題之前,請確保你能:
- 使用雙重積分或雙重求和計算 \(E[XY]\)。
- 求出 \(Cov(X, Y)\),並理解對於獨立變量,該值為 0。
- 計算相關係數,並確認其值落在 -1 到 1 之間。
- 應用疊代期望值定律來簡化複雜問題。
- 使用 Eve's Law (EV + VE) 來找出變量的總變異數。
最後的小撇步:當你看到題目中一個變量的行為取決於另一個變量時(例如:「索賠數量 \(N\) 取決於風險類別 \(\Theta\)」),這是一個非常明顯的提示,暗示你要使用全期望值或全變異數定律!