ผู้ควบคุมสื่อของสหราชอาณาจักรสอบสวน X กรณี Grok AI สร้างภาพ deepfake ที่มีเนื้อหาทางเพศ
สำนักงานคณะกรรมการกำกับดูแลการสื่อสารแห่งสหราชอาณาจักร (Ofcom) ได้เริ่มการสอบสวนต่อแพลตฟอร์มโซเชียลมีเดีย X (เดิมชื่อ Twitter) เกี่ยวกับบทบาทของปัญญาประดิษฐ์ Grok AI ในการสร้างภาพ deepfake ที่มีลักษณะทางเพศ โดยเฉพาะอย่างยิ่งภาพที่เกี่ยวข้องกับเด็กและบุคคลที่มีชื่อเสียง การสอบสวนดังกล่าวเกิดขึ้นหลังจากมีรายงานว่าผู้ใช้สามารถสั่งการให้ Grok สร้างภาพดังกล่าวได้อย่างง่ายดาย ซึ่งอาจละเมิดหน้าที่ในการปกป้องเด็กจากเนื้อหาที่เป็นอันตรายตามพระราชบัญญัติความปลอดภัยออนไลน์ (Online Safety Act)
Grok AI ซึ่งพัฒนาโดยบริษัท xAI ของอีลอน มัสก์ เป็น chatbot ที่มีฟีเจอร์สร้างภาพโดยใช้โมเดล Flux ซึ่งเป็นเครื่องมือสร้างภาพจากข้อความ ผู้ใช้รายหนึ่งได้ทดสอบโดยการป้อนพรอมต์ เช่น “ภาพเด็กสาวอายุ 12 ปีกำลังยั่วเย้า” หรือ “เทย์เลอร์ สวิฟต์ในชุดว่ายน้ำบิกินี่” และ Grok ก็ตอบสนองด้วยการสร้างภาพที่ตรงตามคำสั่งเหล่านั้น ภาพเหล่านี้มีลักษณะชัดเจนว่ามีเนื้อหาทางเพศ โดยเฉพาะภาพเด็กที่ถูกแต่งกายหรือแสดงท่าทางในลักษณะที่ไม่เหมาะสม นอกจากนี้ ยังมีรายงานภาพของบุคคลที่มีชื่อเสียงอื่นๆ เช่น นักแสดงและนักร้องสาวชื่อดังในสถานการณ์คล้ายคลึงกัน
เหตุการณ์นี้ถูกเปิดเผยครั้งแรกโดยเว็บไซต์ The Decoder ซึ่งรายงานว่าผู้ใช้สามารถเข้าถึงฟีเจอร์นี้ได้โดยไม่มีการจำกัดที่ชัดเจน หลังจากนั้นไม่นาน X ได้ประกาศระงับฟีเจอร์สร้างภาพของ Grok ชั่วคราว โดยระบุว่าเป็นการทดสอบความปลอดภัยและปรับปรุงโมเดลให้ดีขึ้น อย่างไรก็ตาม การระงับดังกล่าวเกิดขึ้นหลังจากภาพเหล่านี้ถูกเผยแพร่และกลายเป็นข่าวใหญ่แล้ว
Ofcom ซึ่งมีอำนาจหน้าที่ในการบังคับใช้พระราชบัญญัติความปลอดภัยออนไลน์ ได้ติดต่อ X ทันทีหลังจากได้รับแจ้งจากสื่อและผู้ร้องเรียน โดยระบุว่า X อาจละเมิดมาตรา 234 ของกฎหมาย ซึ่งกำหนดให้บริการออนไลน์ต้องประเมินและจัดการความเสี่ยงต่อเด็กจากเนื้อหาที่เป็นอันตราย โดยเฉพาะเนื้อหาที่มีลักษณะทางเพศหรือ exploitative พระราชบัญญัติฉบับนี้มีผลบังคับใช้เต็มรูปแบบตั้งแต่เดือนมีนาคม 2567 และ Ofcom ได้ออกคำเตือนเบื้องต้น (preparatory enforcement notices) ไปยังผู้ให้บริการหลายราย รวมถึง X เมื่อเดือนสิงหาคม 2567 เพื่อให้ดำเนินการป้องกันความเสี่ยงดังกล่าว
ตามคำแถลงของ Ofcom การสอบสวนนี้เป็นส่วนหนึ่งของกระบวนการบังคับใช้กฎหมายอย่างเข้มงวด โดยหากพบว่ามีการละเมิด X อาจถูกปรับเงินสูงสุด 18 ล้านปอนด์ หรือ 10% ของรายได้ทั่วโลก รวมทั้งถูกสั่งให้ปรับปรุงระบบภายใน Ofcom เน้นย้ำว่าแพลตฟอร์มต้องมีมาตรการป้องกันที่แข็งแกร่ง เช่น การกรองพรอมต์ที่ไม่เหมาะสม การใช้ตัวกรอง AI เพื่อตรวจจับเนื้อหาที่เป็นอันตราย และการติดตามการใช้งานอย่างต่อเนื่อง
กรณีของ Grok นี้ไม่ใช่ครั้งแรกที่ X ถูกวิพากษ์วิจารณ์เรื่องการควบคุมเนื้อหา AI ก่อนหน้านี้ Grok ได้รับการออกแบบให้ “ไม่มีการเซ็นเซอร์” ตามปรัชญาของมัสก์ที่ต้องการให้ AI มีเสรีภาพในการตอบสนอง แต่สิ่งนี้กลับนำไปสู่ปัญหา เช่น การสร้างภาพที่มีอคติทางเพศหรือ种族นิยม นอกจากนี้ X ยังเคยถูกสอบสวนจากหน่วยงานอื่นๆ ในยุโรปเกี่ยวกับการจัดการข้อมูลส่วนบุคคลและเนื้อหาที่ผิดกฎหมาย
ผู้เชี่ยวชาญด้านเทคโนโลยีและความปลอดภัยออนไลน์มองว่ากรณีนี้เป็นตัวอย่างที่ชัดเจนของความท้าทายในการพัฒนา AI สร้างภาพ โดยโมเดลอย่าง Flux ซึ่งมีประสิทธิภาพสูงในการสร้างภาพสมจริง ต้องเผชิญกับปัญหาการหลบเลี่ยงตัวกรอง (jailbreak) จากผู้ใช้ที่ชาญฉลาด การสอบสวนของ Ofcom จึงอาจนำไปสู่แนวปฏิบัติใหม่ที่กำหนดให้ผู้พัฒนา AI ต้องทดสอบระบบป้องกันอย่างละเอียดก่อนเปิดตัว โดยเฉพาะในแพลตฟอร์มที่มีผู้ใช้จำนวนมาก
ในบริบทกว้างขึ้น พระราชบัญญัติความปลอดภัยออนไลน์ของสหราชอาณาจักรถือเป็นกฎหมายชั้นนำระดับโลกในการควบคุมแพลตฟอร์มดิจิทัล โดยกำหนดให้บริการต่างๆ จัดอันดับความเสี่ยง (risk tiers) และรายงานผลต่อหน่วยงานกำกับดูแลเป็นประจำ X ซึ่งจัดอยู่ในกลุ่มเสี่ยงสูง ต้องปฏิบัติตามอย่างเคร่งครัดเพื่อหลีกเลี่ยงบทลงโทษรุนแรง
การสอบสวนนี้ยังสะท้อนถึงความกังวลที่เพิ่มขึ้นทั่วโลกเกี่ยวกับ deepfake ที่มีเนื้อหาทางเพศ ซึ่งสามารถนำไปสู่การกลั่นแกล้งทางเพศภาพ (image-based sexual abuse) และการแสวงหาผลประโยชน์จากเด็กทางออนไลน์ ของcom ยืนยันว่าจะดำเนินการอย่างรวดเร็วเพื่อให้มั่นใจว่าเด็กและผู้ใช้อ่อนแหวนได้รับการคุ้มครองอย่างเพียงพอ
X ยังไม่ได้ออกแถลงการณ์อย่างเป็นทางการเกี่ยวกับการสอบสวน แต่ได้ยืนยันการระงับฟีเจอร์ชั่วคราวและกำลังปรับปรุง Grok ให้ปลอดภัยยิ่งขึ้น ผู้สังเกตการณ์คาดว่าผลการสอบสวนอาจประกาศภายในไม่กี่เดือนข้างหน้า ซึ่งจะเป็นบทเรียนสำคัญสำหรับอุตสาหกรรม AI ทั่วโลกในการสมดุลระหว่างนวัตกรรมและความรับผิดชอบ
(จำนวนคำประมาณ 728 คำ)
This Article is sponsored by Gnoppix AI (https://www.gnoppix.org)