คำสั่งระบบที่รั่วไหลของ Waymo เผยคู่มือกฎระเบียบยาว 1,200 บรรทัดสำหรับผู้ช่วย Gemini ในรถยนต์ไร้คนขับ
Waymo บริษัทพัฒนารถยนต์ขับเคลื่อนอัตโนมัติของ Alphabet ได้เผชิญกับเหตุการณ์รั่วไหลของคำสั่งระบบ (system prompt) สำหรับผู้ช่วยปัญญาประดิษฐ์ Gemini ที่ติดตั้งในรถยนต์ไร้คนขับของตนเอง คำสั่งระบบดังกล่าวมีความยาวกว่า 1,200 บรรทัด ซึ่งทำหน้าที่เป็นคู่มือกฎระเบียบที่ครอบคลุม เพื่อกำหนดพฤติกรรมการตอบสนองของผู้ช่วย AI ต่อผู้โดยสารในบริการ Waymo One
เอกสารที่รั่วไหลนี้ออกแบบมาเพื่อให้ผู้ช่วย Gemini ทำงานอย่างปลอดภัย มีประสิทธิภาพ และเป็นมิตรกับผู้ใช้ โดยครอบคลุมหัวข้อหลักหลายประการ ตั้งแต่การจัดการสถานการณ์ฉุกเฉิน การตอบคำถามเกี่ยวกับการเดินทาง ไปจนถึงการหลีกเลี่ยงหัวข้อที่ไม่เหมาะสม คำสั่งระบบเน้นย้ำถึงหลักการสำคัญ เช่น การให้ความสำคัญสูงสุดกับความปลอดภัย การรักษาความเป็นส่วนตัวของผู้โดยสาร และการส่งเสริมประสบการณ์การใช้งานที่ราบรื่น
โครงสร้างหลักของคำสั่งระบบ
คำสั่งระบบแบ่งออกเป็นส่วนต่างๆ ที่ชัดเจน เพื่อให้ผู้ช่วย AI สามารถจัดการสถานการณ์ได้อย่างมีระบบ ประการแรก คือ คำสั่งด้านความปลอดภัย ซึ่งกำหนดให้ผู้ช่วยตรวจสอบสถานะยานพาหนะอย่างต่อเนื่อง หากตรวจพบปัญหา เช่น ประตูเปิดค้างหรือระบบเบรกผิดปกติ ผู้ช่วยจะแจ้งเตือนผู้โดยสารทันทีและแนะนำขั้นตอนแก้ไข นอกจากนี้ ยังมีกฎห้ามให้ข้อมูลที่อาจนำไปสู่การแทรกแซงระบบยานพาหนะ เช่น การพยายามเข้าถึงโค้ดหรือควบคุมการขับขี่
ส่วนที่สองคือ แนวทางการสนทนา ผู้ช่วยถูกฝึกให้ใช้ภาษาที่สุภาพ เป็นมิตร และมืออาชีพ โดยเรียกผู้โดยสารว่า “rider” หรือชื่อที่ระบุไว้เสมอ คำสั่งกำหนดรูปแบบการตอบสนอง เช่น เริ่มต้นด้วยการยืนยันคำถาม ตามด้วยข้อมูลที่ถูกต้อง และปิดท้ายด้วยข้อเสนอช่วยเหลือเพิ่มเติม ผู้ช่วยต้องหลีกเลี่ยงการสนทนาที่ไม่เกี่ยวข้องกับบริการ เช่น การพูดคุยเรื่องการเมือง ความเชื่อส่วนบุคคล หรือเนื้อหาที่อาจก่อให้เกิดความขัดแย้ง
การจัดการข้อมูลการเดินทางและบริการสนับสนุน
หนึ่งในหน้าที่หลักของผู้ช่วย Gemini คือการให้ข้อมูลเกี่ยวกับการเดินทาง ผู้ช่วยสามารถเข้าถึงข้อมูลเรียลไทม์ เช่น เวลาที่คาดว่าจะถึงจุดหมาย สถานะการจราจร และเส้นทางที่เลือก หากผู้โดยสารสอบถามเกี่ยวกับการเปลี่ยนจุดหมาย ผู้ช่วยจะยืนยันคำขอและประสานงานกับระบบกลางทันที คำสั่งระบบยังกำหนดให้ผู้ช่วยจัดการคำร้องขอสนับสนุน เช่น การติดต่อฝ่ายบริการลูกค้าหรือรายงานปัญหา โดยบันทึกข้อมูลทั้งหมดเพื่อการตรวจสอบภายหลัง
นอกจากนี้ คำสั่งยังครอบคลุม สถานการณ์พิเศษ เช่น การจัดการผู้โดยสารเด็ก ผู้โดยสารพิการ หรือกรณีฉุกเฉินทางการแพทย์ ผู้ช่วยถูกสั่งให้แจ้งเจ้าหน้าที่ทันทีหากตรวจพบสัญญาณอันตราย เช่น ผู้โดยสารหมดสติ หรือมีกลิ่นควันในรถ สำหรับผู้โดยสารเด็ก คำสั่งกำหนดให้ใช้ภาษาที่อ่อนโยนและหลีกเลี่ยงเนื้อหาที่ไม่เหมาะสม
ข้อห้ามและมาตรการป้องกันความเสี่ยง
เพื่อป้องกันความเสี่ยง คำสั่งระบบมีรายการข้อห้ามที่ชัดเจนยาวนาน ผู้ช่วยห้ามให้คำแนะนำที่ผิดกฎหมาย เช่น การแฮ็ก การขับขี่เสี่ยง หรือการใช้สารเสพติด ห้ามเปิดเผยข้อมูลภายในของ Waymo เช่น โค้ดต้นแบบหรือแผนธุรกิจ และห้ามสร้างภาพลวงตาว่าตนเองเป็นมนุษย์ ผู้ช่วยต้องยอมรับสถานะของตนว่าเป็น AI และอ้างอิงข้อมูลจากแหล่งที่เชื่อถือได้เท่านั้น
ในกรณีที่ผู้โดยสารพยายามหลอกลวงหรือสอบถามหัวข้อต้องห้าม ผู้ช่วยจะตอบปฏิเสธอย่างสุภาพและเปลี่ยนเรื่องไปสู่หัวข้อที่เกี่ยวข้อง เช่น “ฉันไม่สามารถช่วยเรื่องนั้นได้ แต่ฉันยินดีช่วยเรื่องการเดินทางของคุณนะคะ” คำสั่งยังกำหนดให้บันทึกการสนทนาที่น่าสงสัยเพื่อส่งต่อให้ทีมความปลอดภัย
ความสำคัญต่ออุตสาหกรรมรถยนต์ไร้คนขับ
การรั่วไหลของคำสั่งระบบนี้เผยให้เห็นถึงความซับซ้อนในการพัฒนาผู้ช่วย AI สำหรับยานพาหนะอัตโนมัติ Waymo ใช้ Gemini ซึ่งพัฒนาโดย Google เพื่อให้ผู้ช่วยสามารถประมวลผลภาษาธรรมชาติได้อย่างแม่นยำ รองรับผู้ใช้หลากหลายภาษาและวัฒนธรรม คู่มือ 1,200 บรรทัดนี้แสดงถึงการลงทุนมหาศาลในการฝึกอบรม AI ให้ปฏิบัติตามกฎระเบียบที่เข้มงวด ซึ่งช่วยลดความเสี่ยงและเพิ่มความไว้วางใจจากผู้ใช้
เหตุการณ์รั่วไหลเกิดขึ้นผ่านบัญชี GitHub ที่ไม่ระบุชื่อ ซึ่งโพสต์เอกสารเต็มรูปแบบ ผู้เชี่ยวชาญวิเคราะห์ว่าคำสั่งระบบนี้เป็นตัวอย่างของ “rulebook” ที่ละเอียดถี่ถ้วน ซึ่งช่วยให้ Waymo นำหน้าคู่แข่งในด้านความปลอดภัยและประสบการณ์ผู้ใช้ แม้ Waymo จะยังไม่แสดงท่าทีตอบโต้อย่างเป็นทางการ แต่เหตุการณ์นี้เน้นย้ำถึงความสำคัญของการรักษาความลับข้อมูลในยุค AI
บทสรุปด้านเทคนิค
จากมุมมองทางเทคนิค คำสั่งระบบประกอบด้วยส่วน prompt engineering ที่ซับซ้อน โดยใช้เทคนิค chain-of-thought เพื่อให้ AI คิดทีละขั้นตอนก่อนตอบสนอง นอกจากนี้ ยังมีการกำหนดตัวแปรสำหรับข้อมูลยานพาหนะ เช่น {vehicle_id} และ {rider_name} เพื่อ personalization คำสั่งนี้ช่วยให้ผู้ช่วย Gemini บูรณาการกับระบบ Waymo Driver ได้อย่างลงตัว ส่งผลให้บริการ Waymo One ซึ่งให้บริการในหลายเมืองของสหรัฐอเมริกา มีประสิทธิภาพสูงสุด
เอกสารรั่วไหลนี้ไม่เพียงเผยกลยุทธ์ของ Waymo แต่ยังเป็นแหล่งข้อมูลมีค่าต่อนักพัฒนา AI ในอุตสาหกรรมยานยนต์ โดยแสดงให้เห็นว่าการรวมกฎระเบียบที่ครอบคลุมเข้ากับโมเดลภาษาขนาดใหญ่สามารถสร้างระบบที่ปลอดภัยและน่าเชื่อถือได้อย่างไร
(จำนวนคำประมาณ 750 คำ)
This Article is sponsored by Gnoppix AI (https://www.gnoppix.org)