ยินดีต้อนรับสู่โลกแห่งความสามารถในการอธิบายโมเดล (Model Explainability)!
ในอดีต โมเดลทำนายขั้นสูงหลายตัวถูกมองว่าเป็น "กล่องดำ" (Black box)—คือเมื่อเราใส่ข้อมูลเข้าไปแล้วได้ผลลัพธ์ออกมา แต่ไม่มีใครรู้จริงๆ ว่าโมเดลตัดสินใจจากอะไร ในฐานะนักคณิตศาสตร์ประกันภัย การตอบว่า "เพราะคอมพิวเตอร์บอกมาแบบนั้น" ไม่ใช่คำตอบที่ยอมรับได้! ในบทนี้ เราจะมาเรียนรู้วิธีแอบดูสิ่งที่อยู่ภายในกล่องดำนั้นกัน เราจะสำรวจเครื่องมือที่จะช่วยอธิบายว่า ทำไม โมเดลถึงทำนายค่าออกมาเป็นค่าหนึ่ง ไม่ว่าจะเป็นภาพรวมของทั้งโมเดลหรือกรณีของบุคคลรายใดรายหนึ่งก็ตาม
ไม่ว่าคุณกำลังจะอธิบายการปรับขึ้นอัตราเบี้ยประกันให้แก่หน่วยงานกำกับดูแล หรืออธิบายให้ลูกค้าเข้าใจว่าเหตุใดเบี้ยประกันของเขาถึงเปลี่ยนไป แนวคิดเหล่านี้จะเป็นเพื่อนที่ดีที่สุดของคุณ มาเริ่มกันเลย!
1. การแปลผลในระดับภาพรวม (Global) เทียบกับระดับรายกรณี (Local)
ก่อนที่เราจะไปดูเครื่องมือเฉพาะเจาะจง เราต้องเข้าใจระดับของการ "อธิบาย" โมเดลเสียก่อน ไม่ต้องกังวลหากคำศัพท์เหล่านี้ฟังดูหรูหรา เพราะแนวคิดของมันเรียบง่ายมาก!
Global Interpretability (ภาพรวมทั้งโมเดล)
Global interpretability คือการทำความเข้าใจว่าโมเดลทำงานอย่างไรในภาพรวมของชุดข้อมูลทั้งหมด มันช่วยตอบคำถามเช่น: "โดยทั่วไปแล้ว ตัวแปรใดมีความสำคัญที่สุดในการทำนายผลลัพธ์?" หรือ "ค่าที่ทำนายได้เปลี่ยนแปลงอย่างไรเมื่ออายุ (Age) เพิ่มขึ้น สำหรับทุกคนในข้อมูล?"
Local Interpretability (เรื่องราวเฉพาะบุคคล)
Local interpretability จะโฟกัสไปที่การทำนายในกรณีเดียวหรือเคสเดียว มันช่วยตอบคำถามเช่น: "ทำไมโมเดลถึงทำนายว่านายสมชายมีความเสี่ยงสูง?" แม้ว่า "อายุ" จะมีความสำคัญในภาพรวม แต่สำหรับนายสมชาย "ประวัติการเกิดอุบัติเหตุเมื่อเร็วๆ นี้" อาจเป็นเหตุผลที่ทำให้คะแนนความเสี่ยงของเขาสูง
เปรียบเทียบให้เห็นภาพ: ลองนึกถึงสูตรทำเค้ก Global interpretability ก็คือการรู้ว่า โดยปกติแล้วน้ำตาลทำให้เค้กหวานและแป้งทำให้เค้กเป็นรูปเป็นร่าง ส่วน Local interpretability คือการอธิบายว่าทำไม เค้กชิ้นนี้ถึงรสชาติเค็ม (อาจเป็นเพราะคุณเผลอใส่เกลือแทนน้ำตาลในเค้กรอบนั้น!)
สรุป: Global = ทั้งโมเดล Local = การทำนายเฉพาะจุด
2. ความสำคัญของตัวแปร (Feature Importance)
Feature Importance (หรือ Variable Importance) เป็นหนึ่งในวิธีที่ใช้กันบ่อยที่สุดในการอธิบายโมเดล มันให้คะแนนแต่ละตัวแปรต้น (feature) ตามระดับความมีส่วนร่วมของมันต่อประสิทธิภาพการทำนายของโมเดล
ในโมเดลประเภทต้นไม้ (เช่น Random Forests หรือ XGBoost) ค่าความสำคัญมักจะคำนวณจากการดูว่าตัวแปรแต่ละตัวช่วยลด "ความไม่บริสุทธิ์" (Impurity เช่น Gini impurity หรือ Mean Squared Error) ได้มากน้อยเพียงใดตลอดทั้งต้นไม้
ข้อควรระวัง: การที่ตัวแปรมีความสำคัญสูง ไม่ได้แปลว่ามันเป็น สาเหตุ ของผลลัพธ์ แต่มันหมายความว่าโมเดลอาศัยตัวแปรนั้นอย่างหนักในการตัดสินใจทำนาย นอกจากนี้ หากมีตัวแปรสองตัวที่มีความสัมพันธ์กันสูง (Highly correlated) โมเดลอาจจะแบ่งค่าความสำคัญไปให้ทั้งคู่ ทำให้ดูเหมือนทั้งสองตัวสำคัญน้อยกว่าความเป็นจริง!
3. กราฟแสดงความสัมพันธ์บางส่วน (Partial Dependence Plots - PDP)
Partial Dependence Plot (PDP) แสดงผลกระทบเชิงหน่วยสุดท้าย (Marginal effect) ของหนึ่งหรือสองตัวแปรที่มีต่อผลลัพธ์การทำนาย พูดให้ง่ายขึ้นคือ: ถ้าเราเปลี่ยนค่าของ ตัวแปร X ในขณะที่ให้ทุกอย่างคงที่ (ในค่าเฉลี่ย) ผลลัพธ์ที่ทำนายได้จะเปลี่ยนไปอย่างไร?
วิธีการทำงาน (ทีละขั้นตอน):
1. เลือกตัวแปรที่คุณต้องการศึกษา (เช่น อายุของยานพาหนะ)
2. ในทุกๆ แถวของข้อมูล ให้คงตัวแปรอื่นไว้เหมือนเดิม แต่เปลี่ยน อายุของยานพาหนะ เป็น "1 ปี"
3. บันทึกค่าเฉลี่ยของการทำนายจากทั้งชุดข้อมูล
4. ทำซ้ำโดยเปลี่ยนเป็น "2 ปี", "3 ปี" และต่อไปเรื่อยๆ
5. พลอตกราฟค่าเฉลี่ยเหล่านั้นออกมา
ข้อจำกัดที่สำคัญ: PDP สมมติว่าตัวแปรที่คุณกำลังศึกษาไม่มีความสัมพันธ์กับตัวแปรอื่นสูงเกินไป หากมันสัมพันธ์กัน "สถานการณ์เฉลี่ย" ที่ PDP สร้างขึ้นมาอาจเป็นสิ่งที่ไม่มีอยู่จริงในโลกความเป็นจริง
สรุป: PDP แสดงความสัมพันธ์ แบบเฉลี่ย ระหว่างตัวแปรหนึ่งกับผลการทำนาย
4. กราฟแสดงความคาดหวังเฉพาะรายบุคคล (Individual Conditional Expectation - ICE)
หาก PDP คือ "ค่าเฉลี่ย" กราฟ ICE ก็คือ "องค์ประกอบย่อยเฉพาะราย" ในขณะที่ PDP แสดงเส้นเดียว (ค่าเฉลี่ย) กราฟ ICE จะแสดงเส้นที่แยกออกมา สำหรับทุกๆ ข้อมูล ในชุดข้อมูลของคุณ
ทำไมต้องใช้ ICE? บางครั้ง "ค่าเฉลี่ย" ก็ปิดบังความจริง ตัวอย่างเช่น ยาชนิดหนึ่งอาจช่วยผู้ชายแต่ส่งผลเสียต่อผู้หญิง PDP จะแสดงเส้นแบนราบ (ไม่มีผลเฉลี่ย) แต่ ICE จะแสดงให้เห็นว่าบางเส้นพุ่งขึ้นและบางเส้นตกลง ซึ่งเผยให้เห็นการปฏิสัมพันธ์ (Interaction) ระหว่างตัวแปร
เทคนิคการจำ: ให้จำว่า ICE คือ "Individual" (บุคคล) มันทำลาย "น้ำแข็ง" (ice) ของค่าเฉลี่ย เพื่อให้คุณเห็นสิ่งที่เกิดขึ้นกับแต่ละคนจริงๆ
5. ค่า SHAP (Shapley Additive Explanations)
SHAP ถือเป็น "มาตรฐานทองคำ" สำหรับการอธิบายโมเดลในปัจจุบัน โดยมีพื้นฐานมาจาก ทฤษฎีเกม (Game Theory)
ลองจินตนาการถึงกลุ่มผู้เล่น (ตัวแปร) ที่เล่นเกมเพื่อชิงรางวัล (ผลการทำนาย) SHAP จะคำนวณว่าผู้เล่นแต่ละคนควรได้รับ "เครดิต" เท่าไหร่สำหรับรางวัลสุดท้าย รากฐานทางคณิตศาสตร์ทำให้มั่นใจได้ว่าผลการทำนายรวมจะถูกกระจายอย่างยุติธรรมไปยังตัวแปรต่างๆ
สมการ SHAP (แบบย่อ):
\( g(z') = \phi_0 + \sum_{i=1}^{M} \phi_i z'_i \)
โดยที่:
- \( \phi_0 \) คือค่าฐาน (Base value ซึ่งก็คือค่าเฉลี่ยของการทำนายทั้งหมด)
- \( \phi_i \) คือ ค่า SHAP ของตัวแปรที่ \( i \)
- ผลรวมของค่า SHAP ทั้งหมดรวมกับค่าฐาน จะเท่ากับการทำนายจริง
ทำไม SHAP ถึงดีเยี่ยม:
1. ทั้งระดับรายบุคคลและภาพรวม: คุณสามารถใช้ SHAP สำหรับคนคนเดียว (Local) หรือนำมาหาค่าเฉลี่ยเพื่อดูภาพรวมของทั้งโมเดล (Global) ได้
2. ความเป็นธรรม: มันพิจารณาถึงความจริงที่ว่าตัวแปรต่างๆ อาจทำงานร่วมกันได้ (Interactions)
3. บอกทิศทาง: ต่างจาก Feature Importance แบบธรรมดา SHAP บอกคุณได้ว่าตัวแปรนั้นกำลังดันให้ผลการทำนาย สูงขึ้น หรือ ต่ำลง
ทบทวนสั้นๆ: หากคะแนนของผู้สมัครทำประกันคือ 80 (ในขณะที่ค่าเฉลี่ยคือ 50) SHAP อาจบอกคุณว่า: +20 สำหรับ "ประวัติอุบัติเหตุ", +15 สำหรับ "อายุน้อย", และ -5 สำหรับ "ระบบความปลอดภัยของรถ" (50 + 20 + 15 - 5 = 80)
6. LIME (Local Interpretable Model-agnostic Explanations)
LIME เป็นอีกเครื่องมือหนึ่งสำหรับการแปลผลระดับรายกรณี (Local) ส่วนที่เรียกว่า "Model-agnostic" หมายความว่ามันใช้ได้กับ ทุกโมเดล ไม่ว่าจะเป็น Random Forests, Neural Networks หรือแม้แต่โมเดลที่คุณไม่ได้สร้างเอง!
วิธีการทำงานของ LIME (วิธีตัวแทน หรือ Surrogate Approach):
1. เลือกข้อมูลหนึ่งรายการที่คุณต้องการอธิบาย
2. "เขย่า" หรือปรับเปลี่ยนข้อมูลรอบๆ ข้อมูลนั้นเล็กน้อย (สร้างข้อมูลที่คล้ายกันแต่ต่างกันออกไปหลายจุด)
3. ดูว่าโมเดลกล่องดำที่ซับซ้อนทำนายจุดใหม่เหล่านี้อย่างไร
4. สร้างโมเดลที่เรียบง่ายและ อธิบายได้ (เช่น Linear Regression ง่ายๆ หรือ Decision Tree ขนาดเล็ก) บนข้อมูลที่ "เขย่า" ขึ้นมานี้
5. ใช้โมเดลที่เรียบง่ายนั้นอธิบายโมเดลที่ซับซ้อน
เปรียบเทียบให้เห็นภาพ: ลองจินตนาการถึงเทือกเขาที่คดเคี้ยวและกว้างใหญ่ (โมเดลที่ซับซ้อน) ถ้าคุณต้องการอธิบายความลาดชัน ณ จุดหนึ่ง คุณไม่จำเป็นต้องมีแผนที่ของเทือกเขาทั้งหมด คุณแค่ต้องการแผ่นไม้อัดเรียบๆ แผ่นเล็กๆ (โมเดล LIME ที่เรียบง่าย) เพื่อแสดงองศาของพื้นดินใต้ฝ่าเท้าของคุณก็พอ
7. ข้อแตกต่างสำคัญและควรเลือกใช้เมื่อไหร่
อย่าให้เครื่องมือที่หลากหลายทำให้คุณสับสน! นี่คือคู่มือสั้นๆ:
ใช้ Feature Importance เมื่อ:
คุณต้องการการจัดอันดับภาพรวมอย่างรวดเร็วว่าตัวแปรใดมีผลต่อความแม่นยำของโมเดลมากที่สุด
ใช้ PDP/ICE เมื่อ:
คุณต้องการเห็น รูปร่าง ของความสัมพันธ์ (เช่น มันเป็นเส้นตรงหรือไม่? มันคงที่หลังจากถึงอายุหนึ่งหรือเปล่า?)
ใช้ SHAP เมื่อ:
คุณต้องการคำอธิบายที่ถูกต้องแม่นยำและสมเหตุสมผลตามทฤษฎีว่าตัวแปรแต่ละตัวมีส่วนช่วยในการทำนายรายบุคคลนั้นๆ มากน้อยเท่าใด
ใช้ LIME เมื่อ:
คุณมีโมเดลที่ซับซ้อนมากๆ (เช่น Deep learning สำหรับภาพหรือข้อความ) และ SHAP ใช้เวลาคำนวณนานเกินไป หรือคุณต้องการโมเดลตัวแทนแบบ "Local" ที่เรียบง่าย
สรุปสิ่งที่ต้องจำสำหรับการสอบ
- Global vs. Local: ต้องจำว่า Global คือประชากรทั้งหมด Local คือข้อมูลเฉพาะรายบุคคล
- PDP: แสดงผลกระทบเฉลี่ย ระวังเรื่องความสัมพันธ์ระหว่างตัวแปร (Correlations)!
- ICE: แสดงเส้นแยกตามรายข้อมูล มีประโยชน์ในการตรวจจับการปฏิสัมพันธ์ (Interactions) ที่ค่าเฉลี่ย (PDP) ปิดบังไว้
- SHAP: ใช้ทฤษฎีเกมเพื่อ "กระจาย" ค่าการทำนายไปยังตัวแปรต่างๆ ซึ่งรวมกันได้เท่ากับผลทำนายทั้งหมด
- LIME: สร้างโมเดลจำลองที่เรียบง่ายรอบๆ จุดข้อมูลที่สนใจเพื่ออธิบายเหตุผล
ไม่ต้องกังวลถ้าสิ่งเหล่านี้ดูยากในตอนแรก! กุญแจสำคัญคือต้องจำเป้าหมายของเราไว้: เรากำลังเปลี่ยนจากคำว่า "คอมพิวเตอร์บอกมาแบบนั้น" เป็น "คอมพิวเตอร์บอกแบบนั้นเพราะตัวแปร A ผลักให้ผลลัพธ์สูงขึ้น และตัวแปร B ผลักให้มันต่ำลง" คุณทำได้แน่นอน!