Meta เปิดตัว Llama 4: โมเดลโอเพนซอร์สใช้สถาปัตยกรรมผู้เชี่ยวชาญผสมเป็นครั้งแรก

เมื่อวันที่ 5 เมษายน พ.ศ. 2568 ตามเวลาสหรัฐอเมริกา Meta ได้เปิดตัวโมเดล AI แบบโอเพนซอร์สรุ่นใหม่ตระกูล Llama 4 พร้อมเปิดให้ดาวน์โหลดสองรุ่น ได้แก่ Llama 4 Scout และ Llama 4 Maverick นับเป็นครั้งแรกที่ตระกูล Llama นำสถาปัตยกรรมแบบผู้เชี่ยวชาญผสม (Mixture-of-Experts หรือ MoE) มาใช้ และถือเป็นก้าวล่าสุดของ Meta ในการแข่งขันด้านโมเดลภาษาขนาดใหญ่แบบโอเพนซอร์ส

ตามประกาศอย่างเป็นทางการ Llama 4 Scout มีพารามิเตอร์ที่ทำงานจริง (active parameters) 1.7 หมื่นล้าน และมีโมดูลผู้เชี่ยวชาญ 16 ตัว บริษัทระบุว่าเป็นโมเดลมัลติโมดัลที่ดีที่สุดในระดับเดียวกัน มีประสิทธิภาพเหนือกว่าโมเดล Llama รุ่นก่อนหน้าทั้งหมด จุดเด่นที่สุดของ Scout คือหน้าต่างบริบท (context window) ยาวถึง 10 ล้านโทเคน ซึ่ง Meta อ้างว่าเป็นระดับแนวหน้าของวงการ และยังสามารถรันบน GPU NVIDIA H100 เพียงตัวเดียวได้ ส่วน Llama 4 Maverick มีพารามิเตอร์ที่ทำงานจริงเท่ากันคือ 1.7 หมื่นล้าน แต่ขยายจำนวนผู้เชี่ยวชาญเป็น 128 ตัว โดย Meta อ้างว่าผลการทดสอบมาตรฐาน (benchmark) หลายรายการที่ใช้กันอย่างแพร่หลายแสดงให้เห็นว่า Maverick มีประสิทธิภาพเหนือกว่า GPT-4o ของ OpenAI และ Gemini 2.0 Flash ของ Google นอกจากนี้ Meta ยังเผยว่ากำลังฝึกโมเดลขนาดใหญ่กว่าคือ Llama 4 Behemoth ซึ่งจะทำหน้าที่เป็น "โมเดลครู" สำหรับฝึกโมเดล Llama 4 รุ่นอื่น ๆ ต่อไป โดย Scout และ Maverick เปิดให้ดาวน์โหลดแล้วผ่านเว็บไซต์ Llama อย่างเป็นทางการและแพลตฟอร์มพันธมิตรอย่าง Hugging Face

ความหมายเชิงเทคนิค: ก้าวกระโดดสองด้านของ MoE และบริบทที่ยาวเป็นพิเศษ

แนวคิดหลักของสถาปัตยกรรมผู้เชี่ยวชาญผสมคือ ภายในโมเดลจะมีกลุ่ม "ผู้เชี่ยวชาญ" ย่อยหลายชุด แต่ในการประมวลผลแต่ละครั้งจะเปิดใช้งานเพียงบางส่วนเท่านั้น (Scout เปิดใช้บางส่วนจากผู้เชี่ยวชาญ 16 ตัว ส่วน Maverick เลือกใช้จากผู้เชี่ยวชาญ 128 ตัว) ทำให้จำนวนพารามิเตอร์รวมมากกว่าพารามิเตอร์ที่ทำงานจริงมาก แต่ยังคงต้นทุนการประมวลผลในระดับที่ค่อนข้างต่ำ นี่เป็นแนวทางที่โมเดลขนาดใหญ่ชั้นนำในปัจจุบัน (รวมถึง DeepSeek-V3) ใช้ร่วมกัน การที่ Meta ตามมาใช้สถาปัตยกรรมนี้ แสดงให้เห็นว่า MoE ได้กลายเป็นมาตรฐานของโมเดลโอเพนซอร์สเรือธงไปแล้ว ส่วนหน้าต่างบริบท 10 ล้านโทเคน หากสามารถทำงานได้อย่างเสถียร ในทางทฤษฎีจะสามารถอ่านเอกสารหลายพันหน้าหรือโค้ดทั้งโปรเจกต์ได้ในครั้งเดียว ถือเป็นความก้าวหน้าสำคัญสำหรับงานที่ต้องประมวลผลเอกสารยาว ๆ จำนวนมาก

เทียบกับรุ่นก่อนหน้าและคู่แข่ง

เมื่อเทียบกับ Llama 3 รุ่นก่อน Llama 4 เปลี่ยนจาก "โมเดลหนาแน่นเดี่ยว" มาเป็น "ผู้เชี่ยวชาญผสมแบบเบาบาง (sparse)" ถือเป็นการเปลี่ยนแปลงระดับสถาปัตยกรรม ไม่ใช่เพียงการขยายจำนวนพารามิเตอร์ การที่ Meta ระบุชื่อ GPT-4o และ Gemini 2.0 Flash เป็นคู่เปรียบเทียบของ Maverick โดยตรง สะท้อนว่าการเปิดตัวครั้งนี้ไม่ได้วางตำแหน่งเป็นเพียง "ทางเลือกของชุมชนโอเพนซอร์ส" เท่านั้น แต่ต้องการท้าทายประสิทธิภาพของสองบริษัทโมเดลปิดรายใหญ่ในงานมัลติโมดัลโดยตรง ส่วนการที่ Scout รันบน H100 เพียงตัวเดียวได้ ก็เป็นการปรับให้เหมาะกับ "อุปสรรคด้านการติดตั้งใช้งาน" อย่างจงใจ เมื่อเทียบกับโมเดลขนาดยักษ์ที่ต้องใช้คลัสเตอร์ GPU หลายตัว สิ่งนี้ทำให้ทีมขนาดกลางและเล็กสามารถติดตั้งและใช้งานแบบส่วนตัวได้ง่ายขึ้น

ปฏิกิริยาจากวงการ

ชุมชนโอเพนซอร์สให้ความสนใจว่า หลังจาก Scout และ Maverick เปิดให้ดาวน์โหลดแล้ว ผลการทดสอบจริงบน Hugging Face จะสอดคล้องกับตัวเลขที่ Meta ประกาศหรือไม่ รวมถึงความเสถียรและความหน่วงของหน้าต่างบริบทที่ยาวเป็นพิเศษเมื่อใช้งานจริง ซึ่งโดยทั่วไปต้องรอผลทดสอบจากบุคคลที่สามและการใช้งานจริงในชุมชนสักระยะจึงจะเห็นภาพชัดเจนขึ้น ไม่ว่าจะอย่างไร การที่ Meta ยังคงลงทุนต่อเนื่องในโมเดลขนาดใหญ่แบบโอเพนซอร์ส ก็ทำให้องค์กรและนักพัฒนาที่พึ่งพาระบบนิเวศโอเพนซอร์สมีทางเลือกในการติดตั้งใช้งานและปรับแต่งเองเพิ่มขึ้นอีกหนึ่งทาง

สำหรับผู้บริหาร ความหมายของข่าวนี้ไม่ได้อยู่ที่ต้องรีบนำโมเดลใดมาใช้ทันที แต่อยู่ที่การจับตาแนวโน้มสองเรื่องที่กำลังเติบโตอย่างรวดเร็ว คือ "โมเดลโอเพนซอร์สที่ติดตั้งเองได้" และ "หน้าต่างบริบทที่ยาวพอจะประมวลผลเอกสารจำนวนมาก" เมื่อต้องประเมินโซลูชัน AI สำหรับคลังความรู้ภายในองค์กร การตรวจสอบสัญญา หรือระบบบริการลูกค้าในอนาคต นอกจาก API แบบเสียเงินแล้ว การติดตั้งโอเพนซอร์สเองก็เป็นอีกตัวเลือกที่ควรนำมาพิจารณาเปรียบเทียบด้วย