การศึกษาใหม่เผยแผนที่กระบวนการคิดของโมเดล AI และจุดที่การให้เหตุผลล้มเหลว
นักวิจัยจากสถาบันชั้นนำได้พัฒนาเทคนิคใหม่ที่เรียกว่า “Automated Interpretability” ซึ่งช่วยให้สามารถ可视化กระบวนการคิดภายในของโมเดลภาษาขนาดใหญ่ (Large Language Models: LLMs) ได้อย่างละเอียด โดยศึกษานี้มุ่งเน้นไปที่การติดตามเส้นทางการให้เหตุผลในงานคำนวณทางคณิตศาสตร์หลายขั้นตอน พบว่าโมเดล AI ต่างๆ ใช้กลยุทธ์ที่แตกต่างกันอย่างมาก และมักล้มเหลวในงานที่ซับซ้อน โดยเฉพาะอย่างยิ่งเมื่อต้องจัดการกับบริบทยาวหรือขั้นตอนจำนวนมาก
การศึกษานี้ตีพิมพ์บน arXiv เมื่อเร็วๆ นี้ โดยทีมนักวิจัยจาก Apple Machine Learning Research, MIT, UNC Chapel Hill, Stanford University และ New York University นำโดย Ziming Liu, Harsh Shrivastava, David Bau และอื่นๆ พวกเขาใช้เครื่องมือ Automated Interpretability Agents (AIAs) ซึ่งเป็นตัวแทน AI ที่ทำงานอัตโนมัติเพื่อค้นหาและ可视化 “วงจร” (circuits) ภายในโมเดลที่รับผิดชอบต่อการให้เหตุผลแต่ละขั้นตอน
วิธีการทำงานของ Automated Interpretability
เทคนิคหลักคือการใช้ AIAs เพื่อวิเคราะห์โมเดล LLMs โดยมุ่งเป้าไปที่งานคณิตศาสตร์ที่ต้องการการให้เหตุผลหลายขั้นตอน เช่น การแก้โจทย์ทางพีชคณิตหรือเรขาคณิต โดย AIAs จะทำหน้าที่ดังนี้
- ค้นหาวงจรที่เกี่ยวข้อง: AIAs สแกนโมเดลเพื่อระบุ neurons หรือส่วนของโมเดลที่เปิดใช้งานในแต่ละขั้นตอนของการให้เหตุผล
- สร้างแผนที่เส้นทาง: สร้างกราฟที่แสดงการไหลของข้อมูลระหว่างขั้นตอนต่างๆ เช่น จากขั้นตอนที่ 1 ไปยังขั้นตอนที่ 2
- ตรวจสอบความถูกต้อง: ใช้ ablation (การปิดการทำงานชั่วคราว) เพื่อยืนยันว่าวงจรเหล่านี้มีบทบาทจริงในการให้เหตุผลที่ถูกต้อง
ผลลัพธ์คือแผนที่可视ที่ชัดเจน แสดง “เส้นทางการให้เหตุผล” (reasoning paths) ของโมเดลแต่ละตัว ตัวอย่างเช่น ในโมเดล o1-preview ของ OpenAI พบวงจรที่ชัดเจนสำหรับ chain-of-thought (CoT) แบบ explicit ซึ่งโมเดลจะคิดทีละขั้นตอนอย่างเป็นลำดับ
กลยุทธ์การให้เหตุผลที่แตกต่างกันของโมเดลต่างๆ
การศึกษาทดสอบโมเดลชั้นนำหลายตัว ได้แก่ GPT-4o, Claude 3.5 Sonnet, Llama 3.1 405B, Gemini 1.5 Pro, o1-preview และ DeepSeek-R1 พบความหลากหลายในกลยุทธ์ดังนี้
- Chain-of-Thought แบบ sequential: โมเดลอย่าง o1-preview และ DeepSeek-R1 ใช้โครงสร้างแบบลำดับชัดเจน โดยแต่ละขั้นตอนไหลไปยังขั้นตอนถัดไปอย่างต่อเนื่อง แผนที่แสดงเส้นทางตรงที่เชื่อมโยงกันแน่นหนา
- Parallel processing: Claude 3.5 Sonnet และ Llama 3.1 405B คิดแบบขนาน โดยประมวลผลหลายขั้นตอนพร้อมกัน แล้วรวมผลลัพธ์ แผนที่เผยให้เห็นการเชื่อมโยงแบบกิ่งก้านสาขา
- Hybrid approaches: GPT-4o และ Gemini 1.5 Pro ผสมผสานทั้งสองแบบ แต่มีจุดอ่อนในการเชื่อมโยงขั้นตอนย่อย
นอกจากนี้ โมเดล open-weight อย่าง Llama 3.1 405B แสดงวงจรที่ซับซ้อนกว่าโมเดล proprietary ซึ่งอาจบ่งชี้ถึงการฝึกฝนที่แตกต่างกัน
จุดที่การให้เหตุผลล้มเหลว
การศึกษาค้นพบจุดอ่อนหลักสามประการที่ทำให้โมเดลล้มเหลวในงานซับซ้อน
- งานที่มีขั้นตอนมากกว่า 10 ขั้นตอน: โมเดลส่วนใหญ่สูญเสียการเชื่อมโยงระหว่างขั้นตอนกลางๆ ทำให้แผนที่แสดง “ช่องว่าง” (gaps) ในเส้นทาง เช่น Claude 3.5 Sonnet ล้มเหลวเพราะไม่สามารถรักษาสถานะกลาง (intermediate states) ได้
- บริบทยาว (long contexts): เมื่อข้อมูลนำเข้าเกิน 10,000 โทเค็น โมเดลอย่าง GPT-4o แสดงการกระจายความสนใจที่ไม่สม่ำเสมอ ส่งผลให้วงจรขั้นตอนต้นๆ ไม่เชื่อมต่อกับขั้นตอนท้าย
- งานที่ต้องการการวางแผนล่วงหน้า: โมเดลมักข้ามการวางแผน (planning phase) โดยตรงเข้าสู่การคำนวณ ซึ่งนำไปสู่ข้อผิดพลาดสะสม
ตัวอย่างเฉพาะเจาะจงคือโจทย์เรขาคณิตที่ต้องการ 15 ขั้นตอน o1-preview ประสบความสำเร็จ 90% แต่ Llama 3.1 ล้มเหลวเกือบทั้งหมดเนื่องจากวงจรไม่ครอบคลุมขั้นตอนทั้งหมด
ความหมายต่อวงการ AI
การค้นพบนี้ให้ข้อมูลเชิงลึกสำคัญสำหรับการพัฒนาโมเดลรุ่นถัดไป โดย Automated Interpretability ช่วยให้นักพัฒนาสามารถ
- ระบุจุดอ่อน: เพื่อปรับปรุงการฝึกฝนเฉพาะส่วน เช่น เสริมวงจรสำหรับขั้นตอนกลาง
- เปรียบเทียบโมเดล: เปิดโอกาสให้ benchmark กลยุทธ์การให้เหตุผลแทนผลลัพธ์สุดท้าย
- พัฒนาเครื่องมือใหม่: AIAs สามารถนำไปใช้กับงานอื่นๆ นอกเหนือจากคณิตศาสตร์ เช่น การเขียนโค้ดหรือการให้เหตุผลเชิงตรรกะ
อย่างไรก็ตาม นักวิจัยชี้ว่าวิธีนี้ยังมีข้อจำกัด เช่น ขึ้นอยู่กับคุณภาพของ AIAs และอาจไม่ครอบคลุมโมเดลที่ใหญ่เกินไป แต่ถือเป็นก้าวแรกสู่ mechanistic interpretability ที่แท้จริง ซึ่งช่วยให้เข้าใจ “กล่องดำ” ของ AI ได้ดีขึ้น
อนาคตของการตีความ AI
การศึกษานี้เน้นย้ำว่าโมเดลปัจจุบันยังห่างไกลจากมนุษย์ในด้านการให้เหตุผลที่ยั่งยืน โดยเฉพาะในสเกลใหญ่ นักวิจัยแนะนำให้มุ่งพัฒนาวงจรที่ robust มากขึ้น เช่น การฝึกด้วย synthetic data ที่เน้นขั้นตอนยาว และใช้เทคนิคนี้ในการตรวจสอบความปลอดภัยของ AI
ด้วยเครื่องมือนี้ ผู้ประกอบการและนักพัฒนาในอุตสาหกรรมเทคโนโลยีสามารถนำไปประยุกต์เพื่อสร้างโมเดลที่เชื่อถือได้มากขึ้น ส่งเสริมการเติบโตของธุรกิจที่พึ่งพา AI เช่น การเงิน สุขภาพ และการผลิตอัจฉริยะ
(จำนวนคำประมาณ 728 คำ)
This Article is sponsored by Gnoppix AI (https://www.gnoppix.org)