ข้อกำหนดและบริการที่ปรับปรุงล่าสุดของ OpenAI สำหรับ Sora: การสร้างสรรค์เนื้อหาวิดีโออย่างมีความรับผิดชอบ
OpenAI ได้ดำเนินการอย่างเป็นรูปธรรมในการปรับปรุงกฎเกณฑ์และข้อกำหนดด้านความปลอดภัยสำหรับ Sora ซึ่งเป็นโมเดล AI สำหรับการสร้างวิดีโอจากข้อความ (text-to-video) ของบริษัท การตัดสินใจครั้งนี้มีขึ้นหลังจากที่เกิดเหตุการณ์ที่เนื้อหาวิดีโอปลอม (deepfakes) ที่ไม่เหมาะสมและสร้างความขัดแย้งเกี่ยวกับบุคคลสำคัญทางประวัติศาสตร์ เช่น ดร. มาร์ติน ลูเธอร์ คิง จูเนียร์ (Martin Luther King Jr.) ถูกเผยแพร่บนแพลตฟอร์มโซเชียลมีเดีย
การเปลี่ยนแปลงกฎระเบียบดังกล่าวเน้นย้ำถึงความพยายามของ OpenAI ในการป้องกันการใช้เครื่องมือสร้างสรรค์ (generative tools) ในทางที่ผิด โดยเฉพาะอย่างยิ่งการสร้างภาพบุคคลในลักษณะที่เป็นการละเมิดหลักการทางจริยธรรมและก่อให้เกิดความเข้าใจผิดในประเด็นอ่อนไหว
การดำเนินการควบคุมเนื้อหาด้านบุคคลและการเมือง
ในเบื้องต้น Sora ถูกออกแบบมาพร้อมกับมาตรการป้องกันในระดับหนึ่งแล้ว โดยการจำกัดความสามารถในการสร้างภาพใบหน้าของบุคคลที่มีนามเฉพาะ (specific named individuals) รวมถึงภาพของบุคคลสาธารณะที่ยังมีชีวิตอยู่ นอกจากนี้ ยังมีการห้ามการสร้างภาพเหมือนของบุคคลที่อายุต่ำกว่า 18 ปี และการห้ามสร้างภาพบุคคลที่มีความคล้ายคลึงกับนักแสดงที่มีชื่อเสียงอีกด้วย
อย่างไรก็ตาม จากกรณีเนื้อหาปลอมที่เกี่ยวข้องกับ ดร. คิง จูเนียร์ ซึ่งเป็นบุคคลสำคัญที่ถึงแก่กรรมไปแล้ว และการแพร่กระจายของเนื้อหาที่ก่อให้เกิดการบิดเบือนประวัติศาสตร์ ทำให้ OpenAI เล็งเห็นถึงช่องโหว่ที่จำเป็นต้องได้รับการแก้ไขอย่างเร่งด่วน การปรับปรุงล่าสุดจึงเป็นการขยายขอบเขตการควบคุมให้ครอบคลุมถึงบุคคลสำคัญทางประวัติศาสตร์และเนื้อหาที่อาจนำไปสู่ความเข้าใจผิดทางการเมืองและสังคมอย่างกว้างขวาง
ข้อกำหนดด้านความปลอดภัยสำหรับเนื้อหาที่สร้างขึ้น
ภายใต้ข้อกำหนดที่ปรับปรุงใหม่ OpenAI ได้กำหนดข้อห้ามที่ชัดเจนยิ่งขึ้น โดยเฉพาะเนื้อหาที่ส่งผลกระทบต่อกระบวนการประชาธิปไตยและการเลือกตั้ง (elections) โดยเน้นย้ำถึงการห้ามสร้างวิดีโอที่:
- ส่งเสริมการบิดเบือนข้อมูลทางการเมือง (Political Misinformation): ห้ามการสร้างวิดีโอที่มีความน่าเชื่อถือสูงที่เกี่ยวข้องกับการเลือกตั้ง ผู้สมัครรับเลือกตั้ง หรือกระบวนการลงคะแนนเสียง ในลักษณะที่อาจนำไปสู่การเข้าใจผิดหรือการปราบปรามการใช้สิทธิ์เลือกตั้ง
- ละเมิดสิทธิส่วนบุคคล: ห้ามการสร้างวิดีโอที่เกี่ยวข้องกับเนื้อหาที่แสดงความเกลียดชัง (hateful content) การก่อการร้าย (terrorism) การแบ่งแยกเชื้อชาติ (racism) หรือการคุกคาม (harassment)
- การปลอมแปลงใบหน้า (Facial Impersonation): การกำหนดข้อจำกัดที่เข้มงวดมากขึ้นเกี่ยวกับการสร้างภาพใบหน้าหรือเสียงที่เกี่ยวข้องกับบุคคลสาธารณะ ไม่ว่าบุคคลนั้นจะยังมีชีวิตอยู่หรือถึงแก่กรรมไปแล้ว เพื่อป้องกันการใช้เนื้อหาปลอมในการทำลายชื่อเสียงหรือบิดเบือนคำพูด
แหล่งข่าวระบุว่า ข้อจำกัดเหล่านี้ถูกนำมาใช้เพื่อรับประกันว่า Sora จะถูกใช้ในลักษณะที่สร้างสรรค์และเป็นประโยชน์ ไม่ใช่เพื่อจุดประสงค์ในการแพร่กระจายข้อมูลเท็จหรือสร้างความแตกแยกทางสังคม
การบริหารจัดการความเสี่ยงด้านการเลือกตั้ง
OpenAI ให้ความสำคัญสูงสุดต่อการบริหารจัดการความเสี่ยงที่เกี่ยวข้องกับการใช้ AI ในช่วงฤดูกาลเลือกตั้งทั่วโลก โดยเฉพาะอย่างยิ่งเมื่อ Sora ถูกปล่อยออกมาให้ใช้งานได้ในวงกว้าง บริษัทได้เน้นย้ำถึงกลไกด้านความโปร่งใส ซึ่งรวมถึงการติดลายน้ำดิจิทัล (watermarking) และการใช้เมทาดาทา (metadata) พิเศษเพื่อระบุว่าวิดีโอดังกล่าวถูกสร้างขึ้นโดยเครื่องมือ AI อย่างไรก็ตาม รายละเอียดเฉพาะเจาะจงของวิธีการตรวจจับและป้องกันการหลีกเลี่ยงกฎเกณฑ์ยังคงเป็นความท้าทายที่ต้องมีการพัฒนาอย่างต่อเนื่อง
การปรับปรุงข้อกำหนดด้านความปลอดภัยนี้ สะท้อนให้เห็นถึงบทบาทที่ซับซ้อนของบริษัทเทคโนโลยีในการกำหนดขอบเขตของการสร้างสรรค์เนื้อหาด้วย AI และความจำเป็นในการสร้างสมดุลระหว่างนวัตกรรมกับความรับผิดชอบทางสังคมและจริยธรรม ภายใต้สถานการณ์ที่เทคโนโลยี Deepfake มีความสมจริงมากขึ้นอย่างรวดเร็ว
This Article is sponsored by Gnoppix AI (https://www.gnoppix.org)