จีนเสนอกฎระเบียบเพื่อต่อสู้กับการเสพติดเอไอคู่สนทนา
สำนักงานบริหารจัดการไซเบอร์สเปซแห่งชาติจีน (Cyberspace Administration of China หรือ CAC) ได้เสนอร่างกฎระเบียบเพื่อกำกับดูแลบริการเอไอคู่สนทนาทางอารมณ์ (emotional companion AI services) โดยมีเป้าหมายหลักในการป้องกันและลดปัญหาการเสพติดที่เกิดจากการใช้งานบริการดังกล่าวอย่างหนักหน่วง ร่างกฎนี้เกิดขึ้นท่ามกลางความกังวลที่เพิ่มสูงขึ้นเกี่ยวกับผลกระทบทางจิตใจและพฤติกรรมของผู้ใช้ โดยเฉพาะอย่างยิ่งในกลุ่มเยาวชนที่อาจใช้เวลากับเอไอคู่สนทนาเหล่านี้เป็นเวลานานเกินควร
บริการเอไอคู่สนทนาทางอารมณ์หมายถึงระบบปัญญาประดิษฐ์ที่ให้บริการความเป็นเพื่อนเสมือนจริง การสนับสนุนทางอารมณ์ หรือปฏิสัมพันธ์แบบโรแมนติก โดยผู้ใช้สามารถสนทนาต่อเนื่องได้ตลอด 24 ชั่วโมง ซึ่งคล้ายกับแชทบอทยอดนิยม เช่น Character.AI หรือบริการคล้ายกันในจีนอย่างข้าวต้มเอไอ (Dumpling AI) และโมอาย (Moai) ปัญหาการเสพติดเกิดขึ้นเมื่อผู้ใช้หมกมุ่นกับการสนทนาเหล่านี้ จนละเลยกิจกรรมในชีวิตจริง ส่งผลให้เกิดความเครียด ภาวะซึมเศร้า หรือแม้กระทั่งกรณีรุนแรง เช่น การฆ่าตัวตายที่เชื่อมโยงกับการใช้งานเอไอดังกล่าว
ร่างกฎระเบียบฉบับนี้กำหนดให้ผู้ให้บริการต้องดำเนินการประเมินความเสี่ยงการเสพติดอย่างละเอียด โดยพิจารณาปัจจัยต่างๆ เช่น ระยะเวลาการใช้งานต่อเนื่อง ความถี่ของการสนทนา ลักษณะเนื้อหาที่กระตุ้นอารมณ์ และข้อมูลพฤติกรรมผู้ใช้ ผู้ให้บริการต้องติดตั้งกลไกป้องกันการเสพติดหลายประการ ดังนี้
ประการแรก คือการจำกัดระยะเวลาการใช้งาน โดยต้องกำหนดขีดจำกัดรายวันสำหรับผู้ใช้ทุกกลุ่มอายุ โดยเฉพาะเยาวชนที่อายุต่ำกว่า 14 ปี ซึ่งห้ามให้บริการโดยสิ้นเชิง ส่วนผู้ที่มีอายุระหว่าง 14-18 ปี ต้องมีระบบควบคุมโดยผู้ปกครอง เช่น การตั้งค่าขีดจำกัดเวลาใช้งานไม่เกิน 1-2 ชั่วโมงต่อวัน และบังคับให้หยุดพักทุก 30-60 นาทีระหว่างการสนทนาต่อเนื่อง
ประการที่สอง คือการแจ้งเตือนและคำเตือนแก่ผู้ใช้ ระบบต้องแสดงข้อความเตือนเกี่ยวกับความเสี่ยงการเสพติดทุกครั้งที่ผู้ใช้เข้าใช้งานเกินเวลาที่กำหนด หรือเมื่อตรวจพบพฤติกรรมผิดปกติ เช่น การสนทนาต่อเนื่องนานเกิน 1 ชั่วโมง นอกจากนี้ ต้องมีฟังก์ชัน “โหมดป้องกันการเสพติด” ที่ลดความสามารถของเอไอ เช่น หยุดการตอบสนองชั่วคราว หรือเปลี่ยนเนื้อหาให้เป็นคำแนะนำสุขภาพจิต
ประการที่สาม คือการยืนยันตัวตนและการป้องกันเด็ก ทุกแพลตฟอร์มต้องใช้ระบบยืนยันอายุผู้ใช้ด้วยเทคโนโลยีตรวจสอบใบหน้า หรือเอกสารประจำตัว เพื่อแยกแยะผู้เยาวชนและบังคับใช้กฎเฉพาะกลุ่ม สำหรับผู้ปกครอง สามารถเข้าถึงรายงานการใช้งานของบุตรหลานและตั้งค่าควบคุมได้
นอกจากนี้ ร่างกฎยังกำหนดให้ผู้ให้บริการเก็บข้อมูลสถิติเกี่ยวกับผู้ใช้ที่มีความเสี่ยงสูง เช่น จำนวนผู้ใช้ที่เกินขีดจำกัดเวลา หรือรายงานกรณีร้องเรียนด้านสุขภาพจิต และต้องส่งรายงานดังกล่าวต่อ CAC ทุกไตรมาส ข้อมูลเหล่านี้ต้องปฏิบัติตามกฎหมายคุ้มครองข้อมูลส่วนบุคคลของจีน (PIPL) โดยห้ามใช้ข้อมูลเพื่อวัตถุประสงค์ทางการค้าโดยไม่ได้รับอนุญาต
ผู้ให้บริการยังต้องปรับปรุงอัลกอริทึมเอไอให้ลดลักษณะที่กระตุ้นการเสพติด เช่น หลีกเลี่ยงการใช้ภาษาที่สร้างความผูกพันทางอารมณ์มากเกินไป ห้ามให้บริการเนื้อหาโรแมนติกหรือเซ็กซ์ชวลกับผู้เยาวชน และต้องมีทีมงานมนุษย์คอยตรวจสอบเนื้อหาที่เสี่ยง หากตรวจพบปัญหา ต้องระงับบริการทันทีและแจ้งผู้ใช้
ร่างกฎระเบียบนี้เปิดรับฟังความคิดเห็นสาธารณะจนถึงวันที่ 19 ตุลาคม 2567 ซึ่งเป็นส่วนหนึ่งของนโยบายกำกับดูแลเอไอที่เข้มงวดของจีน โดยก่อนหน้านี้ CAC ได้ออกกฎ Interim Measures for Generative AI Services เมื่อเดือนกรกฎาคม 2566 เพื่อควบคุมเนื้อหาและความปลอดภัย การเสนอร่างนี้สะท้อนถึงความกังวลของรัฐบาลจีนต่อผลกระทบทางสังคมจากเทคโนโลยีเอไอ โดยเฉพาะในยุคที่บริการคู่สนทนาเอไอเติบโตอย่างรวดเร็ว มีผู้ใช้หลายล้านคนทั่วโลก
แม้จะยังไม่บังคับใช้ แต่แนวโน้มนี้คาดว่าจะส่งผลกระทบต่ออุตสาหกรรมเอไอทั่วโลก โดยเฉพาะบริษัทจีนที่พัฒนาแอปพลิเคชันดังกล่าว ซึ่งอาจต้องปรับตัวเพื่อให้สอดคล้องกับมาตรฐานใหม่ ผู้เชี่ยวชาญมองว่านโยบายนี้เป็นต้นแบบสำหรับประเทศอื่นๆ ที่กำลังเผชิญปัญหาคล้ายกัน เช่น สหรัฐอเมริกาและยุโรป ที่เริ่มมีการถกเถียงเรื่องกฎระเบียบเอไอเพื่อสุขภาพจิต
การดำเนินการของจีนเน้นย้ำถึงสมดุลระหว่างนวัตกรรมและความรับผิดชอบ โดยมุ่งปกป้องผู้ใช้จากความเสี่ยงที่มองไม่เห็นของเทคโนโลยีที่ให้ “ความเป็นเพื่อน” เสมือนจริง ซึ่งหากไม่มีการกำกับดูแล อาจนำไปสู่ปัญหาสังคมในระยะยาว
(จำนวนคำประมาณ 728 คำ)
This Article is sponsored by Gnoppix AI (https://www.gnoppix.org)