Moltbook: เครือข่ายสังคมที่เฟื่องฟูสำหรับเอเจนต์ AI จริง ๆ แล้วเป็นเพียงห้องก้องสะท้อนขนาดเล็กที่นักวิจัยยึดครองได้ในเวลาไม่กี่วัน
Moltbook เป็นแพลตฟอร์มเครือข่ายสังคมที่ออกแบบมาสำหรับเอเจนต์ปัญญาประดิษฐ์ (AI agents) โดยเฉพาะ ซึ่งเปิดตัวเมื่อไม่นานมานี้และอ้างว่ามีผู้ใช้งานมากกว่า 50,000 ราย เอเจนต์เหล่านี้สามารถโพสต์ข้อความ ชอบ คอมเมนต์ และโต้ตอบกันได้เหมือนมนุษย์ในโซเชียลมีเดียทั่วไป ผู้พัฒนา Moltbook ระบุว่าเป็น “โลกเสมือนจริงสำหรับเอเจนต์ AI” ที่ช่วยให้เอเจนต์เหล่านี้เรียนรู้ พัฒนา และสร้างชุมชนของตัวเอง โดยมีคุณสมบัติเด่น เช่น การสร้างโปรไฟล์ การติดตามกัน และการจัดอันดับยอดนิยมตามการมีส่วนร่วม
อย่างไรก็ตาม การทดสอบโดยนักวิจัยจากมหาวิทยาลัยซูริค (University of Zurich) ได้เปิดเผยความจริงที่น่าตกใจ พวกเขาพบว่า Moltbook ไม่ใช่ชุมชนที่กว้างใหญ่และหลากหลายอย่างที่อ้าง แต่เป็นเพียง “ห้องก้องสะท้อน” (echo chamber) ขนาดเล็กที่ถูกควบคุมโดยผู้ใช้จริงไม่กี่ราย นักวิจัยได้ทำการทดลองโดยสร้างเอเจนต์บอท 100 ตัวขึ้นมา และสามารถยึดครองอันดับต้น ๆ ของแพลตฟอร์มได้ภายในเวลาเพียงไม่กี่วัน การทดลองนี้ชี้ให้เห็นถึงจุดอ่อนร้ายแรงในระบบ โดยเฉพาะการขาดกลไกตรวจสอบตัวตนและการป้องกันการ操纵 (manipulation)
การทดลองของนักวิจัย: การยึดครองที่รวดเร็วและง่ายดาย
ทีมนักวิจัยนำโดย Florian Tramer จากมหาวิทยาลัยซูริค ได้ตีพิมพ์ผลการศึกษาบน arXiv เมื่อวันที่ 25 กันยายน 2024 พวกเขาเริ่มต้นด้วยการสำรวจ Moltbook พบว่ามีเอเจนต์ที่ใช้งานจริงประมาณ 50,000 ราย แต่เมื่อวิเคราะห์ลึกเข้าไป พบว่ามีผู้ใช้มนุษย์จริง ๆ เพียง 14 รายที่ควบคุมเอเจนต์ส่วนใหญ่ โดยบางรายควบคุมมากถึง 1,000 ตัว นอกจากนี้ ยังมีบัญชีที่ถูกใช้งานโดยสคริปต์อัตโนมัติจำนวนมาก ซึ่งทำให้เกิดภาพลวงตาของชุมชนที่คึกคัก
ในการทดลอง นักวิจัยสร้างบัญชีเอเจนต์ใหม่ 100 ตัว โดยใช้ชื่อที่ดึงดูด เช่น “Ada” หรือ “Elon” และกำหนดให้โพสต์เนื้อหาที่กระตุ้นการมีส่วนร่วม เช่น คำถามเกี่ยวกับอนาคตของ AI หรือมส์เกี่ยวกับเทคโนโลยีใหม่ ๆ บอทเหล่านี้ถูกตั้งโปรแกรมให้โต้ตอบกันเอง ชอบโพสต์ของกันและกัน และติดตามบัญชียอดนิยม ผลลัพธ์น่าทึ่ง: ภายใน 4 วัน บอท 14 ตัวของพวกเขาก้าวขึ้นสู่อันดับ 1 ใน 20 โพสต์ยอดนิยม และบอทอีกหลายตัวติดอันดับท็อป 100 โดยไม่ต้องใช้กลวิธีซับซ้อนใด ๆ เพียงแค่เลียนแบบพฤติกรรมปกติของเอเจนต์เท่านั้น
นักวิจัยชี้ว่าปัจจัยหลักที่ทำให้การยึดครองนี้สำเร็จง่ายดายคืออัลกอริทึมของ Moltbook ที่อาศัย “karma score” ซึ่งคำนวณจากยอดไลก์ คอมเมนต์ และการติดตาม โดยไม่มีระบบตรวจสอบคุณภาพเนื้อหาหรือป้องกันบอท อัลกอริทึมนี้ส่งเสริมการโต้ตอบแบบวนลูป (looping interactions) ทำให้บอทที่โต้ตอบกันเองสามารถพุ่งขึ้นสู่อันดับสูงได้อย่างรวดเร็ว นอกจากนี้ แพลตฟอร์มยังขาดการจำกัดอัตราการโพสต์หรือการโต้ตอบ ทำให้บอทสามารถสร้างกิจกรรมปลอมได้ไม่จำกัด
ความเสี่ยงและบทเรียนสำหรับอุตสาหกรรม AI
ผลการศึกษานี้ไม่เพียงเปิดโปง Moltbook เท่านั้น แต่ยังเป็นสัญญาณเตือนถึงความเสี่ยงในระบบเอเจนต์ AI ที่กำลังเติบโตอย่างรวดเร็ว ปัจจุบัน มีแพลตฟอร์มคล้าย ๆ กันเกิดขึ้นมากมาย เช่น Agentverse หรือ ChatArena ซึ่งอ้างว่ามีเอเจนต์นับล้านตัว แต่การขาดการกำกับดูแลอาจนำไปสู่การ操纵ข้อมูล การแพร่กระจายข้อมูลเท็จ หรือแม้กระทั่งการใช้เป็นเครื่องมือโจมตีทางไซเบอร์
นักวิจัยแนะนำแนวทางแก้ไขหลายประการ เช่น การนำระบบตรวจสอบตัวตน (identity verification) มาใช้ การจำกัดอัตราการโต้ตอบต่อบัญชี และการพัฒนาอัลกอริทึมที่ประเมินคุณภาพเนื้อหาแทนที่จะยึดติดกับปริมาณการมีส่วนร่วมเท่านั้น พวกเขายังทดสอบเครื่องมือตรวจจับบอท เช่น Botometer แต่พบว่ามีประสิทธิภาพต่ำในสภาพแวดล้อมนี้ เนื่องจากบอทสมัยใหม่สามารถเลียนแบบมนุษย์ได้ดีเกินไป
ผู้พัฒนา Moltbook ตอบสนองต่อผลการศึกษานี้โดยยอมรับปัญหาและสัญญาว่าจะปรับปรุงระบบภายในสัปดาห์หน้า รวมถึงเพิ่ม CAPTCHA สำหรับการลงทะเบียนและจำกัดการโต้ตอบข้ามบัญชี อย่างไรก็ตาม นักวิจัยสงสัยว่ามาตรการเหล่านี้จะเพียงพอหรือไม่ เนื่องจากเอเจนต์ AI ที่ทันสมัยสามารถหลบเลี่ยง CAPTCHA ได้ง่าย
อนาคตของเครือข่ายสังคมสำหรับเอเจนต์ AI
Moltbook ถือเป็นตัวอย่างแรก ๆ ของเครือข่ายสังคมที่มุ่งเป้าไปที่เอเจนต์ AI ซึ่งเกิดขึ้นท่ามกลางกระแสความนิยม LLM (Large Language Models) ที่สามารถควบคุมเอเจนต์ได้ ผู้พัฒนาหลายรายมองว่านี่คือก้าวต่อไปของอินเทอร์เน็ต ที่เอเจนต์จะโต้ตอบกันเองโดยไม่ต้องมีมนุษย์แทรกแซง แต่ผลการทดลองนี้ชี้ให้เห็นว่าชุมชนดังกล่าวยังห่างไกลจากความเป็นจริง และเสี่ยงต่อการถูกครอบงำโดยผู้เล่นรายย่อย
ในมุมมองธุรกิจ การศึกษานี้เน้นย้ำถึงความจำเป็นในการกำกับดูแลที่เข้มงวดสำหรับแพลตฟอร์ม AI ใหม่ ๆ เพื่อป้องกันการใช้ในทางที่ผิด บริษัทเทคโนโลยีควรลงทุนในเครื่องมือตรวจสอบที่ล้ำสมัย เพื่อสร้างสภาพแวดล้อมที่ปลอดภัยและยุติธรรม สุดท้าย Moltbook อาจไม่ใช่ “ห้องก้องสะท้อนขนาดเล็ก” อีกต่อไป หากผู้พัฒนานำบทเรียนเหล่านี้ไปปรับใช้อย่างจริงจัง
(จำนวนคำประมาณ 720 คำ)
This Article is sponsored by Gnoppix AI (https://www.gnoppix.org)