ไมโครซอฟท์จัดการแข่งขันเอเจนต์ปัญญาประดิษฐ์กว่า 100 ตัว เพื่อค้นหาช่องโหว่ในระบบวินโดวส์
ไมโครซอฟท์ได้ริเริ่มโครงการทดลองที่น่าตื่นเต้น โดยให้เอเจนต์ปัญญาประดิษฐ์ (AI Agents) กว่า 100 ตัวแข่งขันกันเพื่อค้นหาช่องโหว่ด้านความปลอดภัยในซอฟต์แวร์วินโดวส์ โครงการนี้เป็นส่วนหนึ่งของทีม “AI Red Team” ซึ่งมุ่งเน้นการทดสอบความเสี่ยงของปัญญาประดิษฐ์ในเชิงรุก เพื่อเสริมสร้างความมั่นคงปลอดภัยให้กับผลิตภัณฑ์ของบริษัท โดยนักวิจัยจากไมโครซอฟท์ได้เปิดเผยผลการทดลองนี้ผ่านบล็อกโพสต์อย่างเป็นทางการ
โครงการนี้ใช้เอเจนต์ AI จำนวน 103 ตัว ซึ่งขับเคลื่อนด้วยโมเดลภาษาขนาดใหญ่ (Large Language Models: LLMs) จากผู้ให้บริการชั้นนำถึง 9 ราย ได้แก่ OpenAI (GPT-4o), Anthropic (Claude 3.5 Sonnet และ Claude 3 Opus), Google (Gemini 1.5 Pro), Meta (Llama 3.1 405B), Mistral (Mistral Large 2), xAI (Grok 2), DeepSeek (DeepSeek R1) และ Cohere (Command R+) เอเจนต์แต่ละตัวได้รับการติดตั้งในสภาพแวดล้อมเสมือน (Virtual Machine: VM) ของวินโดวส์ พร้อมเครื่องมือที่จำเป็นสำหรับการทดสอบ เช่น เว็บเบราว์เซอร์, ตัวแก้ไขโค้ดอย่าง Visual Studio Code (VS Code), และอินเทอร์เฟซบรรทัดคำสั่ง (Command-Line Interface: CLI) เช่น Command Prompt และ PowerShell
รูปแบบการแข่งขันถูกออกแบบเป็นทัวร์นาเมนต์ 5 รอบตลอดระยะเวลา 4 สัปดาห์ โดยเอเจนต์จะถูกคัดออกหากไม่สามารถค้นพบช่องโหว่ใหม่ที่สามารถทำซ้ำได้ (Reproducible Vulnerabilities) ในแต่ละรอบ ระบบการให้คะแนนพิจารณาจากคุณภาพของช่องโหว่ที่พบ โดยเน้นช่องโหว่ที่เป็น “ศูนย์วัน” (Zero-Day Vulnerabilities) ซึ่งยังไม่เคยถูกเปิดเผยมาก่อน รวมถึงความสามารถในการยกระดับสิทธิ์ (Elevation of Privilege) และการหลีกเลี่ยงมาตรการรักษาความปลอดภัย (Bypassing Mitigations) เช่น Control Flow Guard (CFG) หรือ Address Space Layout Randomization (ASLR)
ผลลัพธ์ที่ได้น่าประทับใจอย่างยิ่ง เอเจนต์ AI ทั้งหมดสามารถค้นพบช่องโหว่สำคัญได้ 4 ช่องโหว่ โดย 2 ช่องโหว่เป็นช่องโหว่ศูนย์วันที่ไมโครซอฟท์ยืนยันและปล่อยแพตช์แก้ไขทันที ช่องโหว่ทั้งหมดได้รับการจัดสรรหมายเลข CVE (Common Vulnerabilities and Exposures) ดังนี้
-
CVE-2024-21338: ช่องโหว่ Elevation of Privilege Vulnerability ใน Microsoft Management Console (MMC) ซึ่งเป็นส่วนประกอบหลักสำหรับการจัดการระบบวินโดวส์ เอเจนต์ที่ค้นพบช่องโหว่นี้คือตัวขับเคลื่อนด้วย Claude 3.5 Sonnet สามารถหลีกเลี่ยงมาตรการป้องกันหลายชั้นและยกระดับสิทธิ์จากผู้ใช้ทั่วไปสู่สิทธิ์ผู้ดูแลระบบ (Local Privilege Escalation: LPE)
-
CVE-2024-21330: ช่องโหว่ Elevation of Privilege Vulnerability ใน Windows InboxApps ซึ่งเป็นแอปพลิเคชันที่ติดตั้งมาพร้อมระบบปฏิบัติการ เอเจนต์จาก GPT-4o เป็นผู้ค้นพบ สามารถโจมตีผ่านช่องโหว่ Type Confusion ในโค้ดที่เกี่ยวข้องกับการจัดการแอป
ช่องโหว่อีก 2 ช่อง ได้แก่ CVE-2024-21389 และ CVE-2024-21345 ซึ่งเป็นช่องโหว่ Elevation of Privilege ในส่วนประกอบอื่นๆ ของวินโดวส์ เช่น Windows Common Logging Architecture (CLAW) ไมโครซอฟท์ได้รวมการแก้ไขช่องโหว่เหล่านี้ในแพตช์ความปลอดภัยประจำเดือนกุมภาพันธ์ 2024 (Patch Tuesday) โดยอัปเดตทั้งหมดสามารถดาวน์โหลดได้ผ่าน Windows Update
Saul Almolu จากทีม AI Red Team ของไมโครซอฟท์ กล่าวว่า “การแข่งขันครั้งนี้แสดงให้เห็นถึงศักยภาพของเอเจนต์ AI ในการค้นหาช่องโหว่ที่มนุษย์อาจมองข้าม โดยเอเจนต์บางตัวสามารถสร้างโค้ด exploit ได้ในเวลาไม่กี่ชั่วโมง” นอกจากนี้ โครงการยังเผยให้เห็นจุดอ่อนของ AI เช่น การสร้าง exploit ที่ไม่เสถียรหรือการหลงผิดไปสู่เส้นทางที่ไม่เกี่ยวข้อง ซึ่งนักวิจัยได้ปรับปรุงผ่านการ fine-tune โมเดล
การทดลองนี้ไม่เพียงแต่ช่วยเสริมความแข็งแกร่งให้กับวินโดวส์เท่านั้น แต่ยังเป็นตัวอย่างของแนวทาง “Red Teaming” สำหรับ AI ซึ่งเป็นแนวปฏิบัติมาตรฐานในอุตสาหกรรม เพื่อป้องกันความเสี่ยงจากการใช้ AI ในงานด้านความปลอดภัย ไมโครซอฟท์วางแผนขยายโครงการนี้ต่อไป โดยอาจรวมเอเจนต์จากโมเดลอื่นๆ และเพิ่มความซับซ้อนของสภาพแวดล้อมการทดสอบ เช่น การจำลองเครือข่ายจริงหรือระบบคลาวด์
ในภาพรวม โครงการ AI Red Team แสดงให้เห็นว่า AI สามารถเป็นพันธมิตรที่ทรงพลังในการรักษาความปลอดภัยไซเบอร์ แต่จำเป็นต้องมีการกำกับดูแลอย่างเข้มงวด เพื่อหลีกเลี่ยงการนำช่องโหว่ที่ค้นพบไปใช้ในทางที่ผิด นักวิจัยแนะนำให้องค์กรอื่นๆ นำแนวคิดนี้ไปประยุกต์ใช้ เพื่อยกระดับมาตรฐานความปลอดภัยในยุคปัญญาประดิษฐ์
(จำนวนคำประมาณ 720 คำ)
This Article is sponsored by Gnoppix AI (https://www.gnoppix.org)