ยินดีต้อนรับสู่โลกแห่งการประมาณค่าแบบเบย์ (Bayesian Estimation)!
สวัสดีครับ! ถ้าคุณก้าวมาถึงระดับของข้อสอบ ASTAM แสดงว่าคุณผ่านวิชาคณิตศาสตร์หินๆ มาเยอะพอสมควรแล้ว วันนี้เราจะมาเจาะลึกเรื่อง การประมาณค่าแบบเบย์ (Bayesian Estimation) กันครับ ไม่ต้องกังวลหากรู้สึกว่าหัวข้อนี้มีความเป็น "ปรัชญา" ในตอนแรก เพราะจริงๆ แล้วมันเป็นวิธีการมองโลกที่เข้าใจง่ายและเป็นธรรมชาติมากเลยทีเดียว
ในสถิติดั้งเดิม (เช่น MLE) เรามองว่าพารามิเตอร์ \(\theta\) เป็นตัวเลขค่าเดียวที่คงที่ (แต่เราไม่รู้ค่ามัน) แต่ใน การประมาณค่าแบบเบย์ เราจะมอง \(\theta\) เป็น ตัวแปรสุ่ม (random variable) แทน ลองนึกภาพตามนะครับ: แทนที่จะพยายามหา "ค่าที่แท้จริง" ของพารามิเตอร์ เรากำลังพยายามอธิบาย ความไม่แน่นอน ของค่าพารามิเตอร์นั้นโดยใช้การแจกแจงความน่าจะเป็น เหมือนกับการปรับเปลี่ยนความเชื่อของเราเมื่อได้รับหลักฐานใหม่ๆ เข้ามานั่นเอง!
เกร็ดน่ารู้: สถิติแบบเบย์ตั้งชื่อตาม Thomas Bayes นักบวชในศตวรรษที่ 18 ครับ จริงๆ แล้วเขาไม่เคยตีพิมพ์ทฤษฎีบทที่โด่งดังของเขาในช่วงที่ยังมีชีวิตอยู่เลย แต่เพื่อนของเขาที่ชื่อ Richard Price เป็นคนนำมันออกมาเผยแพร่หลังจากที่เขาเสียชีวิตไปแล้ว!
1. สามเสาหลัก: Prior, Model และ Posterior
ในการทำ Bayesian estimation คุณจำเป็นต้องมีองค์ประกอบหลัก 3 อย่าง คิดซะว่ามันคือวัตถุดิบในการทำอาหารครับ
A. การแจกแจงก่อนหน้า (Prior Distribution): \(\pi(\theta)\)
นี่คือสิ่งที่คุณเชื่อเกี่ยวกับ \(\theta\) ก่อน ที่จะเห็นข้อมูลใดๆ ตัวอย่าง: หากคุณกำลังประมาณความน่าจะเป็นของการเคลมประกัน คุณอาจดูค่าเฉลี่ยของอุตสาหกรรมในปีที่แล้วมาสร้างเป็นความเห็นเบื้องต้นของคุณครับ
B. ตัวแบบ (Model หรือ Likelihood): \(f(x|\theta)\)
นี่คือการแจกแจงของข้อมูล เมื่อกำหนด ค่าของ \(\theta\) ถ้าเรามีชุดข้อมูล \(x_1, x_2, ..., x_n\), ค่าความน่าจะเป็นร่วม (joint likelihood) คือ \(L(\theta) = \prod f(x_i|\theta)\) ซึ่งนี่แหละคือ "หลักฐาน" ที่ได้รับมาจากข้อมูล
C. การแจกแจงภายหลัง (Posterior Distribution): \(\pi(\theta|x)\)
นี่คือความเชื่อที่ "อัปเดตแล้ว" มันคือสิ่งที่คุณคิดเกี่ยวกับ \(\theta\) หลังจาก ที่เห็นข้อมูลแล้ว ซึ่งนี่แหละคือเป้าหมายของการคำนวณของเรา!
กฎทองของเบย์ (The Golden Rule of Bayes):
การแจกแจงภายหลังเป็นสัดส่วนกับค่าความน่าจะเป็นคูณด้วยการแจกแจงก่อนหน้า: $$\pi(\theta|x) \propto L(\theta) \times \pi(\theta)$$ สัญลักษณ์ \(\propto\) หมายถึง "เป็นสัดส่วนกับ" ในโจทย์ ASTAM ส่วนใหญ่ เราไม่จำเป็นต้องคำนวณตัวหารที่ยุ่งยากครับ เราแค่ต้องหา "รูปร่าง" (shape) ของการแจกแจงให้เจอเท่านั้น
สรุปสั้นๆ: Prior (ความเชื่อเดิม) + ข้อมูล (หลักฐานใหม่) = Posterior (ความเชื่อที่อัปเดตแล้ว)
2. การคำนวณ Posterior: ขั้นตอนทีละสเต็ป
เมื่อเจอโจทย์เบย์ในห้องสอบ ไม่ต้องตกใจครับ ให้ทำตามขั้นตอนนี้:
ขั้นตอนที่ 1: เขียน Prior ออกมา ระบุ \(\pi(\theta)\) แล้วตัดค่าคงที่ที่ไม่เกี่ยวข้องกับ \(\theta\) ทิ้งไป
ขั้นตอนที่ 2: เขียน Likelihood ออกมา ระบุ \(L(\theta) = f(x_1, ..., x_n | \theta)\) โดยเก็บไว้เฉพาะพจน์ที่มี \(\theta\)
ขั้นตอนที่ 3: จับมาคูณกัน รวมพจน์เข้าด้วยกัน ปกติแล้วคุณจะได้บวกเลขชี้กำลังหรือรวมเลขยกกำลังเข้าด้วยกัน
ขั้นตอนที่ 4: ระบุชื่อการแจกแจง ดูผลลัพธ์ที่ได้ มันดูเหมือน Gamma หรือเปล่า? หรือ Beta? หรือ Normal? ขั้นตอนการ "จับคู่" แบบนี้แหละคือวิธีที่คุณจะหาคำตอบ
ข้อผิดพลาดที่ควรระวัง: อย่าลืมว่า Likelihood ต้องมาจาก กลุ่มตัวอย่างทั้งหมด ถ้าคุณมี \(n\) ข้อมูล อย่าลืมยกกำลังพจน์ของ likelihood ด้วย \(n\) หรือใช้ผลรวมของข้อมูลตามความเหมาะสมครับ!
3. ตัวประมาณค่าแบบเบย์ (The Bayesian Estimator)
เมื่อเราได้การแจกแจงภายหลังมาแล้ว เรามักต้องการตัวเลขค่าเดียวเพื่อใช้เป็นตัวประมาณการ ซึ่งเราเรียกว่า Bayesian Estimator
หลักสูตร ASTAM มักเน้นไปที่ฟังก์ชัน Squared Error Loss ภายใต้ฟังก์ชันการสูญเสียนี้ ค่าประมาณการที่ดีที่สุดสำหรับ \(\theta\) ก็คือ ค่าเฉลี่ยของการแจกแจงภายหลัง (Mean of the Posterior Distribution): $$\hat{\theta} = E[\theta | x]$$
คำอุปมา: ลองจินตนาการว่าคุณกำลังทายน้ำหนักของโหลลูกอม บางคนทาย 500 บางคนทาย 600 ตัวประมาณค่าแบบเบย์ก็เหมือนกับการหาค่าเฉลี่ยของทุกความเห็นเหล่านั้น แต่ให้ความสำคัญกับความเห็นจากผู้เชี่ยวชาญ (ซึ่งก็คือข้อมูล) มากกว่านั่นเอง
ทบทวนสั้นๆ: - ถ้า posterior เป็น \(Gamma(\alpha, \theta)\), ค่าประมาณคือ \(\alpha \theta\) - ถ้า posterior เป็น \(Beta(a, b)\), ค่าประมาณคือ \(\frac{a}{a+b}\) - เตรียม ตารางสอบ (Exam Tables) ไว้ให้พร้อมเสมอเพื่อดูค่าเฉลี่ยของการแจกแจงเหล่านี้ได้อย่างรวดเร็ว!
4. การแจกแจงเชิงพยากรณ์ (Predictive Distributions): มองไปข้างหน้า
บางครั้งข้อสอบอาจไม่ถามหา \(\theta\) แต่ถามว่า "จากข้อมูลที่เราเห็น ความน่าจะเป็นที่การเคลมครั้ง ถัดไป (\(x_{n+1}\)) จะมีค่าเท่ากับค่าหนึ่งจะเป็นเท่าไหร่?"
นี่คือ การแจกแจงเชิงพยากรณ์ (Predictive Distribution) ซึ่งเราคำนวณได้โดยการ "หาค่าเฉลี่ย" ของ Likelihood เทียบกับความเชื่อภายหลังของเรา: $$f(x_{n+1} | x) = \int f(x_{n+1} | \theta) \pi(\theta | x) d\theta$$
ลองคิดแบบนี้: เราไม่รู้แน่ชัดว่า \(\theta\) คืออะไร ดังนั้นเราจึงพิจารณาทุกค่า \(\theta\) ที่เป็นไปได้ ดูว่ามันน่าจะเป็นไปได้แค่ไหน (จาก posterior) แล้วใช้สิ่งนั้นมาทำนายอนาคต จากนั้นก็นำมารวมกัน (อินทิเกรต) ทั้งหมด
เทคนิคจำ: "Posterior เอาไว้ดูพารามิเตอร์; Predictive เอาไว้ดูข้อมูลชุดถัดไป"
5. Conjugate Priors: "สูตรโกง" ที่ต้องรู้
ในหลายกรณี การแจกแจงภายหลังจะออกมาอยู่ใน ตระกูลเดียวกัน กับการแจกแจงก่อนหน้า คู่เหล่านี้เรียกว่า Conjugate Priors การจำพวกนี้ได้จะช่วยให้คุณประหยัดเวลาได้มหาศาล!
คู่หลักๆ ที่ต้องจำ: 1. Poisson (ข้อมูล) + Gamma (Prior) \(\to\) Gamma (Posterior) 2. Binomial (ข้อมูล) + Beta (Prior) \(\to\) Beta (Posterior) 3. Exponential (ข้อมูล) + Inverse Gamma (Prior) \(\to\) Inverse Gamma (Posterior) 4. Normal (ข้อมูล) + Normal (Prior) \(\to\) Normal (Posterior)
ตัวอย่าง: ถ้าคุณเริ่มด้วย Gamma prior และข้อมูลของคุณเป็น Poisson คุณ รู้ได้เลย ว่า posterior จะเป็น Gamma คุณแค่ต้องอัปเดตพารามิเตอร์ \(\alpha\) และ \(\theta\) โดยใช้กฎการบวกง่ายๆ ที่อยู่ในคู่มือการเรียนของคุณครับ
สรุปสิ่งที่ต้องจำสำหรับวันสอบ
1. Bayesian = การอัปเดต. เริ่มจาก prior เสมอ แล้วอัปเดตด้วย likelihood
2. โฟกัสที่ Kernels. อย่าเสียเวลากับค่าคงที่อย่าง \(2\pi\) หรือ \(\sqrt{\dots}\) ให้โฟกัสแค่พจน์ที่มี \(\theta\)
3. ค่าเฉลี่ยของ Posterior. ถ้าโจทย์ไม่ได้ระบุเป็นอย่างอื่น ค่าประมาณแบบเบย์คือค่าเฉลี่ยของการแจกแจงภายหลัง
4. ใช้ตาราง. SOA มีตารางแจกแจงให้ ใช้มันเพื่อหาค่าเฉลี่ยและความแปรปรวนอย่างรวดเร็ว คุณจะได้ไม่ต้องเสียเวลาคำนวณใหม่
5. อย่าเพิ่งกลัว. โจทย์เบย์มักจะเป็นพีชคณิตที่แฝงตัวมาในคราบแคลคูลัส ถ้าคุณระบุการแจกแจงได้ คุณก็ชนะไปกว่าครึ่งแล้ว!
ฝึกฝนต่อไปนะครับ! Bayesian estimation เป็นหนึ่งในหัวข้อที่ออกสอบบ่อยและเก็บแต้มได้เยอะที่สุดในหลักสูตร "Construction and Selection of Parametric Models" ถ้าแม่นตรงนี้ รับรองว่าคะแนนผ่านอยู่ไม่ไกลแน่นอน!