ทำเนียบขาวแจ้งแผนการทบทวนปัญญาประดิษฐ์โดยรัฐบาลต่อ Anthropic, Google และ OpenAI
ทำเนียบขาวของสหรัฐอเมริกาได้จัดการประชุมแจ้งข้อมูลแก่บริษัทชั้นนำด้านปัญญาประดิษฐ์ (AI) อันได้แก่ Anthropic, Google และ OpenAI เกี่ยวกับแผนการจัดตั้งกระบวนการทบทวน AI โดยรัฐบาล ซึ่งมีวัตถุประสงค์เพื่อประเมินความเสี่ยงด้านความมั่นคงแห่งชาติจากระบบ AI ที่มีศักยภาพสูง โดยการแจ้งข้อมูลดังกล่าวเกิดขึ้นในช่วงปลายปี 2566 ท่ามกลางความกังวลที่เพิ่มสูงขึ้นเกี่ยวกับความเสี่ยงที่อาจเกิดจากเทคโนโลยี AI ขั้นสูง
กระบวนการทบทวนนี้เป็นส่วนหนึ่งของคำสั่งบริหารของประธานาธิบดีโจ ไบเดน เรื่องความปลอดภัย ความมั่นคง และความน่าเชื่อถือของปัญญาประดิษฐ์ (Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence) ที่ประกาศเมื่อเดือนตุลาคม 2566 คำสั่งบริหารดังกล่าวมุ่งเน้นให้หน่วยงานรัฐบาลกลางพัฒนากรอบการทำงานสำหรับการทดสอบและประเมินโมเดล AI ที่ทรงพลัง โดยเฉพาะโมเดลที่อาจก่อให้เกิดความเสี่ยงร้ายแรงต่อสุขภาพ ความมั่นคงทางเศรษฐกิจ ความมั่นคงแห่งชาติ หรือความปลอดภัยสาธารณะ
ในการประชุมแจ้งข้อมูล ทำเนียบขาวได้อธิบายถึงแผนการพัฒนากระบวนการทบทวนที่เป็นระบบ โดยจะเกี่ยวข้องกับหน่วยงานหลักหลายแห่ง เช่น สถาบันมาตรฐานและเทคโนโลยีแห่งชาติ (NIST) คณะกรรมการการค้าคณะกรรมาธิการกลาง (FTC) และหน่วยงานด้านความมั่นคงแห่งชาติอื่นๆ กระบวนการนี้จะกำหนดให้บริษัทผู้พัฒนา AI ชั้นนำแจ้งข้อมูลเกี่ยวกับโมเดล AI ใหม่ที่มีระดับศักยภาพสูง ก่อนการเปิดตัวสู่สาธารณะ เพื่อให้รัฐบาลสามารถประเมินและบรรเทาความเสี่ยงที่อาจเกิดขึ้น
บริษัทที่ได้รับการแจ้งข้อมูล ได้แก่ Anthropic ซึ่งเป็นบริษัทสตาร์ทอัพ AI ที่เน้นความปลอดภัย Google DeepMind ซึ่งเป็นหน่วยงานพัฒนา AI หลักของ Google และ OpenAI ผู้พัฒนาโมเดล ChatGPT ตัวแทนจากบริษัทเหล่านี้ยืนยันว่าการแจ้งข้อมูลดังกล่าวเป็นไปอย่างโปร่งใส และพวกเขายินดีให้ความร่วมมือกับรัฐบาลในการพัฒนากรอบการทบทวนนี้ Dario Amodei ผู้ร่วมก่อตั้งและ CEO ของ Anthropic กล่าวว่าบริษัทของเขาเห็นด้วยกับความจำเป็นในการมีกระบวนการทบทวนที่ชัดเจนเพื่อรับประกันความปลอดภัยของ AI
Demis Hassabis ผู้ก่อตั้ง Google DeepMind ได้แสดงความเห็นสนับสนุน โดยระบุว่าการทำงานร่วมกับรัฐบาลเป็นสิ่งสำคัญในการจัดการความเสี่ยงจาก AI ขั้นสูง ในขณะที่ Sam Altman CEO ของ OpenAI เน้นย้ำถึงความมุ่งมั่นของบริษัทในการปฏิบัติตามคำสั่งบริหาร และการแบ่งปันข้อมูลเพื่อการทบทวนที่โปร่งใส การประชุมเหล่านี้เกิดขึ้นหลังจากที่ทำเนียบขาวได้จัดการประชุมกับบริษัท AI อื่นๆ ก่อนหน้านี้ เพื่อหารือเกี่ยวกับการปฏิบัติตามคำสั่งบริหาร
แผนการทบทวน AI โดยรัฐบาลนี้จะมุ่งเน้นไปที่โมเดล AI ที่มีพารามิเตอร์จำนวนมาก (เช่น ระดับ 10^26 FLOPs หรือสูงกว่า) ซึ่งถือเป็นเกณฑ์สำหรับระบบ AI ที่มีศักยภาพสูง รัฐบาลจะขอข้อมูลเกี่ยวกับการทดสอบด้านความปลอดภัย การป้องกันไซเบอร์ และการประเมินความเสี่ยงอื่นๆ โดยบริษัทจะต้องรายงานผลการทดสอบเหล่านี้ให้ NIST เพื่อการวิเคราะห์ หากพบความเสี่ยงรุนแรง รัฐบาลอาจขอให้บริษัทเลื่อนการเปิดตัวหรือปรับปรุงโมเดลก่อน
นอกจากนี้ กระบวนการยังครอบคลุมถึงการทดสอบด้านความสามารถทางทหาร เช่น การพัฒนาอาวุธชีวภาพหรือเคมี ซึ่งเป็นหนึ่งในความเสี่ยงหลักที่คำสั่งบริหารกล่าวถึง ทำเนียบขาวคาดว่าจะเผยแพร่กรอบการทบทวนอย่างเป็นทางการภายใน 180 วันหลังคำสั่งบริหาร หรือประมาณเดือนเมษายน 2567 โดย NIST กำลังนำทีมพัฒนามาตรฐานการทดสอบที่เป็นมาตรฐานสากล
การริเริ่มนี้ได้รับการตอบรับในเชิงบวกจากอุตสาหกรรม AI โดยบริษัทต่างๆ มองว่าเป็นโอกาสในการสร้างมาตรฐานความปลอดภัยที่เป็นเอกภาพ อย่างไรก็ตาม มีความกังวลบางประการเกี่ยวกับความลับทางการค้าและการแข่งขัน ทำเนียบขาวยืนยันว่าจะรักษาความลับของข้อมูลที่ได้รับ และกระบวนการจะออกแบบให้ไม่กีดกันการแข่งขัน
กระบวนการทบทวนนี้ยังเชื่อมโยงกับความพยายามระหว่างประเทศ โดยสหรัฐฯ กำลังประสานงานกับพันธมิตร เช่น สหภาพยุโรปและสหราชอาณาจักร เพื่อพัฒนามาตรฐาน AI ที่สอดคล้องกัน นอกจากนี้ คำสั่งบริหารยังกำหนดให้มีการพัฒนาโครงสร้างพื้นฐานด้าน AI ที่ปลอดภัย รวมถึงการลงทุนในชิปเซมิคอนดักเตอร์และศูนย์ข้อมูล AI
โดยรวมแล้ว การแจ้งข้อมูลของทำเนียบขาวต่อบริษัท AI ชั้นนำนี้ถือเป็นก้าวสำคัญในการกำกับดูแล AI ในระดับรัฐบาล ซึ่งจะช่วยสร้างสมดุลระหว่างนวัตกรรมและความปลอดภัย สะท้อนถึงการเปลี่ยนแปลงนโยบายที่มุ่งรับมือกับความท้าทายจากเทคโนโลยี AI ในยุคปัจจุบัน
(จำนวนคำประมาณ 720 คำ)
This Article is sponsored by Gnoppix AI (https://www.gnoppix.org)