บทนำสู่การถดถอยเชิงเส้นพหุคูณ (Multiple Linear Regression)

ยินดีต้อนรับเข้าสู่บทที่นำไปใช้งานจริงได้มากที่สุดบทหนึ่งในหลักสูตร CS1! ในบทก่อนหน้านี้ เราได้ศึกษาเรื่อง การถดถอยเชิงเส้นอย่างง่าย (Simple Linear Regression) ซึ่งเป็นการทำนายตัวแปรตอบสนองโดยใช้ตัวแปรอธิบายเพียงตัวเดียว (เช่น การทำนายขนาดของสินไหมทดแทนโดยพิจารณาจากอายุของผู้ถือกรมธรรม์เพียงอย่างเดียว) แต่ในโลกแห่งความเป็นจริง สถานการณ์ต่าง ๆ มักจะซับซ้อนกว่านั้นมาก

การถดถอยเชิงเส้นพหุคูณ (Multiple Linear Regression - MLR) ช่วยให้เราสามารถใช้ตัวแปรอธิบายหลายตัวพร้อมกันได้ ลองนึกภาพว่าคุณกำลังกำหนดราคาประกันภัยรถยนต์ คุณคงไม่ได้ดูแค่อายุคนขับเพียงอย่างเดียว แต่คุณจะพิจารณาถึงขนาดเครื่องยนต์ พื้นที่ที่อยู่อาศัย และจำนวนปีของส่วนลดประวัติดี (no-claims discount) ด้วย บทนี้จะสอนให้คุณรู้วิธีจัดการกับตัวแปรนำเข้า (inputs) หลายตัว และที่สำคัญที่สุดคือ วิธีการตัดสินใจว่าตัวแปรไหนที่ควรจะอยู่ในแบบจำลองของคุณจริง ๆ

1. แบบจำลองการถดถอยเชิงเส้นพหุคูณ

ใน MLR เราสมมติว่าตัวแปรตอบสนอง \( Y \) คือผลรวมเชิงเส้นของตัวแปรอธิบายหลายตัว \( x_1, x_2, \dots, x_k \) บวกกับค่าความคลาดเคลื่อนสุ่ม (random error)

แบบจำลองสำหรับค่าสังเกตที่ \( i \) เขียนได้ดังนี้:

\( Y_i = \beta_0 + \beta_1 x_{i1} + \beta_2 x_{i2} + \dots + \beta_k x_{ik} + \epsilon_i \)

โดยที่:

  • \( Y_i \) คือ ตัวแปรตอบสนอง (เช่น จำนวนเงินสินไหมทดแทนรวม)
  • \( x_{i1}, x_{i2}, \dots, x_{ik} \) คือ ตัวแปรอธิบาย (เช่น อายุ, กำลังแรงม้าของรถ, ระยะทางที่วิ่ง)
  • \( \beta_0 \) คือ จุดตัดแกน (intercept)
  • \( \beta_1, \dots, \beta_k \) คือ พารามิเตอร์ความชัน (สัมประสิทธิ์) สำหรับแต่ละตัวแปร
  • \( \epsilon_i \) คือ ค่าความคลาดเคลื่อนสุ่ม ซึ่งมักจะสมมติให้เป็นอิสระต่อกันและมีการแจกแจงแบบปกติ: \( \epsilon_i \sim N(0, \sigma^2) \)

ข้อสมมติที่สำคัญ: ความเป็นเชิงเส้น (Linearity)

อย่าให้คำว่า "เชิงเส้น" หลอกคุณได้นะครับ คำว่า "เชิงเส้น" ใน MLR หมายถึง พารามิเตอร์ (\( \beta \)) ไม่ใช่ตัวแปร คุณสามารถมีตัวแปรอย่าง \( x^2 \) ในแบบจำลองได้ และมันจะยังคงเป็นแบบจำลองการถดถอยเชิงเส้น ตราบใดที่มันอยู่ในรูปของ \( \beta_j x_j^2 \)

2. การตีความสัมประสิทธิ์

งานในข้อสอบที่พบบ่อยที่สุดอย่างหนึ่งคือการอธิบายความหมายของ \( \beta \) เฉพาะตัว ใน MLR เราจะใช้กฎ "เมื่อปัจจัยอื่นคงที่" (all else being equal)

การตีความ: สัมประสิทธิ์ \( \beta_j \) แทนการเปลี่ยนแปลงที่คาดหวังของตัวแปรตอบสนอง \( Y \) เมื่อตัวแปร \( x_j \) เพิ่มขึ้นหนึ่งหน่วย โดยสมมติว่าตัวแปรอธิบายอื่น ๆ ทั้งหมดในแบบจำลองมีค่าคงที่

ตัวอย่าง: ถ้าสัมประสิทธิ์ของ "ประสบการณ์การขับขี่ (ปี)" คือ \( -50 \) หมายความว่า สำหรับทุก ๆ ปีของประสบการณ์ที่เพิ่มขึ้น ค่าเบี้ยประกันภัยที่ทำนายได้จะลดลง \$50 โดยมีเงื่อนไขว่าประเภทรถและพื้นที่ที่อยู่อาศัยยังคงเดิม

ทบทวนสั้น ๆ: ใน Paper B (การสอบด้วยโปรแกรม R) คุณจะได้ใช้ฟังก์ชัน lm() เพื่อหาค่าประมาณเหล่านี้ ซึ่งผลลัพธ์ (output) จะแสดงค่า Estimate, Standard Error, t-value และ p-value สำหรับแต่ละสัมประสิทธิ์

3. การประเมินความเหมาะสมของแบบจำลอง (Model Fit)

เมื่อเราได้แบบจำลองมาแล้ว เราจำเป็นต้องรู้ว่ามันใช้งานได้ดีจริงหรือไม่ โดยเราจะใช้ตัวชี้วัดหลักสองตัว:

สัมประสิทธิ์การตัดสินใจ (\( R^2 \))

\( R^2 = \frac{SS_{Reg}}{SS_{Tot}} = 1 - \frac{SS_{Res}}{SS_{Tot}} \)

ค่านี้บอกเราถึงสัดส่วนของความผันแปรทั้งหมดใน \( Y \) ที่สามารถอธิบายได้ด้วยแบบจำลอง มีค่าตั้งแต่ 0 ถึง 1 (หรือ 0% ถึง 100%)

ปัญหาของ \( R^2 \): การปรับให้เหมาะสมเกินไป (Overfitting)

นี่คือกับดักที่นักศึกษาหลายคนพลาด: การเพิ่มตัวแปรเข้าไปในแบบจำลองจะทำให้ \( R^2 \) เพิ่มขึ้นเสมอ (หรืออย่างน้อยก็เท่าเดิม) แม้ว่าตัวแปรเหล่านั้นจะไม่มีประโยชน์เลยก็ตาม! หากคุณเพิ่มตัวแปรไปเรื่อย ๆ คุณอาจพบปัญหา "Overfit" ซึ่งหมายความว่าแบบจำลองไปอธิบาย "สัญญาณรบกวน" (random noise) ในข้อมูลชุดนั้น ๆ แทนที่จะเป็นแนวโน้มที่แท้จริง

\( R^2 \) ที่ปรับแก้แล้ว (Adjusted \( R^2 \))

เพื่อแก้ปัญหา Overfitting เราจึงใช้ Adjusted \( R^2 \) ตัวชี้วัดนี้จะทำการ "ลงโทษ" (penalize) หากคุณเพิ่มตัวแปรที่ไม่จำเป็น ค่านี้จะเพิ่มขึ้นก็ต่อเมื่อตัวแปรใหม่นั้นช่วยปรับปรุงแบบจำลองได้มากกว่าค่าที่ควรจะเป็นโดยบังเอิญเท่านั้น

\( Adjusted \ R^2 = 1 - (1 - R^2) \frac{n - 1}{n - k - 1} \)

โดยที่ \( n \) คือจำนวนค่าสังเกต และ \( k \) คือจำนวนตัวแปรอธิบาย

4. การคัดเลือกตัวแปรอธิบาย

เราจะตัดสินใจได้อย่างไรว่าควรเก็บตัวแปรไหนไว้? นักคณิตศาสตร์ประกันภัยใช้กลยุทธ์หลายอย่างเพื่อให้ได้แบบจำลองที่ "Parsimonious" (คือแบบจำลองที่เรียบง่ายที่สุดแต่ยังทำงานได้ดี)

Partial F-test (การเปรียบเทียบแบบจำลองที่ซ้อนทับกัน)

หากคุณมี "แบบจำลองใหญ่" (ที่มีหลายตัวแปร) และ "แบบจำลองเล็ก" (ที่มีเพียงบางตัวแปรจากแบบจำลองใหญ่) คุณสามารถใช้ F-test เพื่อดูว่าตัวแปรที่เพิ่มเข้ามาในแบบจำลองใหญ่นั้นมีความสำคัญอย่างมีนัยสำคัญหรือไม่

สมมติฐานว่าง \( H_0 \) คือสัมประสิทธิ์ที่เพิ่มเข้ามาทั้งหมดเป็นศูนย์ (นั่นคือ ตัวแปรที่เพิ่มมานั้นไม่มีประโยชน์)

เกณฑ์สารสนเทศของอากาอิเกะ (Akaike Information Criterion - AIC)

AIC เป็นตัวชี้วัดที่นิยมมากในการคัดเลือกแบบจำลองในทางปฏิบัติของคณิตศาสตร์ประกันภัย โดยจะเป็นการสร้างสมดุลระหว่าง "ความน่าจะเป็น" (likelihood - แบบจำลองฟิตกับข้อมูลแค่ไหน) และ "ความเรียบง่าย" (simplicity - ใช้ตัวแปรไปกี่ตัว)

กฎ: เมื่อเปรียบเทียบแบบจำลองต่าง ๆ แบบจำลองที่มีค่า AIC ต่ำที่สุด มักจะเป็นตัวเลือกที่ดีที่สุด

กระบวนการคัดเลือกแบบเป็นลำดับขั้น (Stepwise Selection)

การเลือกตัวแปรด้วยมืออาจจะช้า เราจึงมักใช้อัลกอริทึมเหล่านี้:

  • Backward Elimination (การกำจัดแบบถอยหลัง): เริ่มต้นด้วยตัวแปรที่เป็นไปได้ทั้งหมด แล้วค่อย ๆ ตัดตัวแปรที่มีค่า p-value สูงสุด (มีนัยสำคัญน้อยที่สุด) ออกทีละตัว ทำซ้ำไปเรื่อย ๆ จนกว่าตัวแปรที่เหลือทั้งหมดจะมีนัยสำคัญ (มักใช้ p < 0.05)
  • Forward Selection (การคัดเลือกแบบไปข้างหน้า): เริ่มต้นโดยไม่มีตัวแปรเลย แล้วค่อย ๆ เพิ่มตัวแปรที่ช่วยให้แบบจำลองดีขึ้นอย่างมีนัยสำคัญที่สุดเข้าไป ทำซ้ำไปเรื่อย ๆ จนกว่าจะไม่มีตัวแปรที่มีนัยสำคัญเพิ่มได้อีก
  • Stepwise: เป็นการผสมผสานของทั้งสองวิธี โดยสามารถเพิ่มหรือลดตัวแปรออกได้ในแต่ละขั้นตอน

ข้อผิดพลาดที่ควรระวัง: อย่าดูแค่ค่า p-value เพียงอย่างเดียว หากตัวแปรสองตัวมีความสัมพันธ์กันสูงมาก (เช่น "อายุคนขับ" กับ "จำนวนปีที่ได้รับใบอนุญาต") การใส่ทั้งสองตัวแปรลงไปอาจทำให้ทั้งคู่ดูไม่มีนัยสำคัญ! เราเรียกปรากฏการณ์นี้ว่า ปัญหาพหุสัมพันธ์ (Multicollinearity)

5. การทำนายในการถดถอยพหุคูณ

เช่นเดียวกับการถดถอยอย่างง่าย เราสามารถใช้แบบจำลองที่สร้างขึ้นเพื่อทำนายค่าในอนาคตได้ มีช่วง (Interval) สองประเภทที่คุณต้องรู้จัก:

  • ช่วงความเชื่อมั่น (Confidence Interval): สำหรับค่าตอบสนอง เฉลี่ย (ค่าเฉลี่ยของ \( Y \) สำหรับชุดของ \( x \) ที่กำหนดให้)
  • ช่วงการทำนาย (Prediction Interval): สำหรับค่าสังเกตในอนาคต รายตัว

ประเด็นสำคัญ: ช่วงการทำนายจะ กว้างกว่า ช่วงความเชื่อมั่นเสมอ เพราะค่าสังเกตรายตัวมีความไม่แน่นอนมากกว่า (รวมเอาความแปรปรวนของค่าเฉลี่ย บวกกับค่าความคลาดเคลื่อนสุ่ม \( \sigma^2 \) เข้าไปด้วย)

6. สรุปเกณฑ์การคัดเลือกแบบจำลอง

เมื่อต้องเลือกชุดของตัวแปรอธิบายที่ดีที่สุด ให้พิจารณาสิ่งต่อไปนี้:

  1. AIC ต่ำ: แสดงถึงความสมดุลที่ดีระหว่างความเหมาะสมและความเรียบง่าย
  2. Adjusted \( R^2 \) สูง: แสดงว่าตัวแปรเหล่านั้นช่วยเพิ่มอำนาจในการอธิบายได้อย่างแท้จริง
  3. ค่า p-value มีนัยสำคัญ: มักจะ \( < 0.05 \) สำหรับสัมประสิทธิ์แต่ละตัว
  4. การวิเคราะห์ส่วนที่เหลือ (Residual Analysis): ตรวจสอบเสมอว่าค่า Residuals ดูเหมือนค่ารบกวนแบบสุ่ม (ไม่มีรูปแบบ) หาก Residuals แสดงรูปแบบบางอย่าง แสดงว่าคุณอาจพลาดตัวแปรบางตัวไป หรืออาจต้องเปลี่ยนประเภทของแบบจำลอง

หมายเหตุ: การวิเคราะห์ส่วนที่เหลือจะมีการอธิบายอย่างละเอียดในบท "การวิเคราะห์ส่วนที่เหลือและการตรวจสอบความถูกต้องของแบบจำลอง" สำหรับตอนนี้ ให้จำไว้ว่าเป็นขั้นตอนสำคัญในการเช็กว่าตัวแปรที่คุณเลือกมานั้นเหมาะสมหรือไม่!

รู้หรือไม่? ใน Paper B หากคุณถูกขอให้เลือกแบบจำลองที่ดีที่สุด คุณควรลองสร้างแบบจำลองหลาย ๆ รูปแบบ เปรียบเทียบค่า AIC และเช็กค่า p-value ของสัมประสิทธิ์ หากค่า AIC ใกล้เคียงกันมาก โดยปกติแล้วเราจะเลือกแบบจำลองที่เรียบง่ายกว่า (หลักการประหยัดพารามิเตอร์ หรือ Principle of Parsimony)!