Ernie 5.1 ของ Baidu ลดต้นทุนการ pre-training ลง 94% ขณะแข่งขันกับโมเดลชั้นนำ

百度เปิดตัว Ernie 5.1 ลดต้นทุนการฝึกอบรมล่วงหน้า 94% แต่ยังคงแข่งขันกับโมเดลชั้นนำได้

百度 (ไบตู) บริษัทเทคโนโลยีชั้นนำของจีน ได้ประกาศเปิดตัว Ernie 5.1 ซึ่งเป็นเวอร์ชันใหม่ล่าสุดของโมเดลภาษาขนาดใหญ่ (Large Language Model: LLM) ที่มีความก้าวหน้าอย่างมากในด้านประสิทธิภาพต้นทุน โดยสามารถลดต้นทุนการฝึกอบรมล่วงหน้า (pre-training) ลงถึง 94% เมื่อเทียบกับ Ernie 4.0 รุ่นก่อนหน้า ขณะเดียวกันก็ยังคงรักษาประสิทธิภาพการทำงานที่สามารถแข่งขันกับโมเดลชั้นนำระดับโลก เช่น GPT-4o ของ OpenAI, Claude 3.5 Sonnet ของ Anthropic และ Gemini 1.5 Pro ของ Google ได้อย่างสูสี

การพัฒนา Ernie 5.1 นี้มาจากการปรับปรุงอย่างมีนัยสำคัญในด้านประสิทธิภาพข้อมูลและสถาปัตยกรรมโมเดล ซึ่งช่วยให้百度สามารถฝึกอบรมโมเดลขนาดใหญ่ได้ในต้นทุนที่ต่ำลงอย่างมาก โดยโมเดลนี้ถูกฝึกอบรมด้วยโทเค็นคุณภาพสูงจำนวน 2.4 ล้านล้านโทเค็น (2.4 trillion tokens) ซึ่งเป็นปริมาณข้อมูลมหาศาลที่ช่วยยกระดับความสามารถในการเข้าใจและสร้างสรรค์ภาษาธรรมชาติให้มีประสิทธิภาพสูงสุด

หนึ่งในนวัตกรรมหลักของ Ernie 5.1 คือการนำสถาปัตยกรรม Mixture-of-Experts (MoE) มาใช้ โดยมีผู้เชี่ยวชาญ (experts) จำนวน 256 ตัว ซึ่งช่วยให้โมเดลสามารถกระจายการประมวลผลไปยังส่วนย่อยที่เหมาะสม ทำให้การฝึกอบรมและการอนุมาน (inference) มีประสิทธิภาพสูงขึ้นอย่างเห็นได้ชัด สถาปัตยกรรม MoE นี้ช่วยลดการใช้ทรัพยากรคอมพิวเตอร์โดยไม่สูญเสียประสิทธิภาพ ทำให้ต้นทุนการฝึกอบรมล่วงหน้าลดลงเหลือเพียง 0.3 ดอลลาร์สหรัฐต่อล้านโทเค็น จากเดิมที่อยู่ที่ 5 ดอลลาร์สหรัฐต่อล้านโทเค็น ซึ่งเป็นการลดลงอย่างน่าทึ่งถึง 94%

ในด้านประสิทธิภาพ Ernie 5.1 แสดงผลงานที่โดดเด่นใน基准การทดสอบมาตรฐานหลายรายการ โดยสามารถทำคะแนนเทียบเท่าหรือเหนือกว่าโมเดลชั้นนำในหลายด้าน เช่น ใน基准 MMLU (Massive Multitask Language Understanding) Ernie 5.1 ทำคะแนนได้สูงกว่า GPT-4o และ Claude 3.5 Sonnet ในส่วนของคำถามเชิงคณิตศาสตร์และการใช้เหตุผล นอกจากนี้ ใน基准 GPQA (Graduate-Level Google-Proof Q&A) ซึ่งเป็นชุดคำถามที่ยากระดับบัณฑิตศึกษา โมเดลนี้ยังคงรักษาคะแนนสูงที่สามารถแข่งขันได้กับ Gemini 1.5 Pro

นอกจากนี้ Ernie 5.1 ยังมีจุดเด่นในด้านการอนุมานที่ประหยัดต้นทุน โดยลดต้นทุนการใช้งานลง 50% เมื่อเทียบกับ Ernie 4.0 ซึ่งช่วยให้ธุรกิจและนักพัฒนาสามารถนำไปใช้งานได้ในเชิงพาณิชย์ได้อย่างคุ้มค่า โมเดลนี้รองรับการใช้งานผ่านแพลตฟอร์ม Ernie Bot ซึ่งเป็นแชทบอทหลักของ百度 และสามารถเข้าถึงได้ผ่าน API สำหรับนักพัฒนา ทำให้เหมาะสำหรับการนำไปประยุกต์ใช้ในแอปพลิเคชันหลากหลาย เช่น การช่วยเหลือลูกค้า การวิเคราะห์ข้อมูล และการสร้างเนื้อหาอัตโนมัติ

การลดต้นทุนครั้งนี้ไม่เพียงแต่ช่วยให้百度รักษาความเป็นผู้นำในตลาด AI ของจีนเท่านั้น แต่ยังเป็นตัวอย่างที่ชัดเจนของการพัฒนาเทคโนโลยีที่ยั่งยืน โดยเน้นที่ประสิทธิภาพข้อมูลและการออกแบบสถาปัตยกรรมที่ชาญฉลาด แทนที่จะพึ่งพาการขยายขนาดทรัพยากรอย่างเดียว ซึ่งเป็นแนวโน้มที่สำคัญในอุตสาหกรรม AI ทั่วโลก ในขณะที่โมเดลชั้นนำอื่นๆ ต้องเผชิญกับต้นทุนการฝึกอบรมที่พุ่งสูงขึ้น Ernie 5.1 พิสูจน์ให้เห็นว่าสามารถบรรลุประสิทธิภาพระดับแนวหน้าด้วยทรัพยากรที่น้อยลง

สำหรับผู้ใช้งาน Ernie 5.1 สามารถทดลองใช้งานได้ทันทีผ่าน Ernie Bot บนเว็บไซต์และแอปพลิเคชันของ百度 โดย百度คาดว่าจะขยายการเข้าถึงไปยังผู้ใช้ทั่วโลกในอนาคตอันใกล้ การเปิดตัวนี้เกิดขึ้นท่ามกลางการแข่งขันที่ดุเดือดในตลาด LLM โดย百度มุ่งเน้นที่การผสมผสานระหว่างประสิทธิภาพสูงและต้นทุนต่ำ เพื่อตอบโจทย์ความต้องการของธุรกิจที่ต้องการนำ AI มาใช้ในระดับองค์กร

โดยสรุป Ernie 5.1 ไม่เพียงแต่เป็นก้าวกระโดดในด้านเทคโนโลยีของ百度เท่านั้น แต่ยังเป็นมาตรฐานใหม่สำหรับการพัฒนาโมเดลภาษาขนาดใหญ่ที่ประหยัดและมีประสิทธิภาพ ซึ่งจะช่วยเร่งการนำ AI ไปใช้ในภาคธุรกิจได้อย่างกว้างขวางยิ่งขึ้น

(จำนวนคำประมาณ 720 คำ)

This Article is sponsored by Gnoppix AI (https://www.gnoppix.org)