คอลัมน์ บันทึกเหตุการณ์ AI เพื่อผู้บริหาร ตอนที่ 38/217 ตอน ดูสารบัญคอร์ส

NVIDIA เปิดตัวสถาปัตยกรรม Blackwell ลดต้นทุนประมวลผล AI โมเดลล้านล้านพารามิเตอร์ 25 เท่า เร่งความเร็วอนุมาน 30 เท่า

18/03/2024 254
4:56
NVIDIA เปิดตัวสถาปัตยกรรม Blackwell ลดต้นทุนประมวลผล AI โมเดลล้านล้านพารามิเตอร์ 25 เท่า เร่งความเร็วอนุมาน 30 เท่า

NVIDIA เปิดตัวสถาปัตยกรรม GPU รุ่นใหม่ Blackwell ในงาน GTC โดยอ้างว่าสามารถลดต้นทุนและพลังงานในการรันโมเดล AI ขนาดล้านล้านพารามิเตอร์ได้สูงสุด 25 เท่า ความเร็วการฝึกฝนเพิ่มขึ้น 4 เท่า การอนุมานเร็วขึ้นถึง 30 เท่า โดย AWS ไมโครซอฟท์ และ Google ประกาศนำไปใช้แล้ว

เมื่อวันที่ 18 มีนาคม NVIDIA ได้เปิดตัวสถาปัตยกรรม GPU รุ่นใหม่อย่างเป็นทางการในงาน GTC ประจำปี ภายใต้ชื่อ "Blackwell" ซึ่งเป็นผู้สืบทอดสถาปัตยกรรม Hopper ที่เปิดตัวเมื่อปี พ.ศ. 2565 นายเจนเซน หวง ซีอีโอของ NVIDIA กล่าวในการบรรยายหลักว่า ระบบที่ใช้สถาปัตยกรรม Blackwell จะช่วยให้องค์กรสามารถรันโมเดลภาษาขนาดใหญ่ (LLM) แบบ generative AI ที่มีพารามิเตอร์ระดับ "ล้านล้าน" แบบเรียลไทม์ได้ด้วยต้นทุนและพลังงานที่ต่ำลงสูงสุด 25 เท่า เมื่อเทียบกับสถาปัตยกรรม Hopper รุ่นก่อน ความเร็วในการฝึกฝนโมเดลอ้างว่าเพิ่มขึ้น 4 เท่า ส่วนความเร็วในการอนุมาน (inference คือขั้นตอนที่โมเดลตอบคำถามหรือสร้างเนื้อหาจริง) เพิ่มขึ้นสูงสุดถึง 30 เท่า — ทั้งสองเป็นตัวเลขคนละมิติ ไม่ใช่ "25 เท่า" เดียวกัน

พร้อมกับสถาปัตยกรรมนี้ NVIDIA ยังเปิดตัวชิปซูเปอร์ "GB200 Grace Blackwell" ที่รวม GPU Blackwell สองตัวเข้ากับ CPU Grace หนึ่งตัวในแพ็กเกจเดียว และบริการไมโครเซอร์วิสสำหรับการอนุมานชื่อ NVIDIA NIM ซึ่งเป็นชุดเครื่องมือซอฟต์แวร์ที่ช่วยให้องค์กรนำโมเดล AI ที่ฝึกฝนไว้แล้วไปติดตั้งใช้งานบนคลาวด์หรือระบบของตนเองได้ง่ายขึ้น NVIDIA ยังประกาศว่าผู้ให้บริการคลาวด์รายใหญ่อย่าง AWS, Microsoft Azure และ Google Cloud ต่างยืนยันแล้วว่าจะนำระบบที่ใช้สถาปัตยกรรม Blackwell ไปใช้ในศูนย์ข้อมูลของตน

ความหมายเชิงเทคนิค: จาก "ฝึกได้" สู่ "ใช้ได้ในราคาที่จ่ายไหว"

ตลอดสองปีที่ผ่านมา การแข่งขันด้าน generative AI มักเน้นไปที่ขนาดพารามิเตอร์และความสามารถในการฝึกฝนโมเดล แต่อุปสรรคใหญ่ที่สุดที่องค์กรเจอจริงเมื่อจะนำ AI ไปใช้งาน คือต้นทุนการ "รันใช้งานจริง" ที่แพงเกินกว่าจะขยายสเกลได้ ข้อความหลักของ Blackwell จึงชัดเจน: ไม่ใช่ว่าฝึกโมเดลไม่ได้ แต่คือฝึกได้แล้วใช้งานได้จริงหรือไม่ หากตัวเลขลดต้นทุน 25 เท่าเป็นจริงในการใช้งานจริง โมเดลระดับล้านล้านพารามิเตอร์ที่แต่ก่อนมีแค่บริษัทเทคยักษ์ใหญ่ไม่กี่รายจ่ายไหว จะมีต้นทุนที่เข้าถึงได้มากขึ้นในอนาคต

เทียบกับรุ่นก่อนและปฏิกิริยาวงการ: กลยุทธ์แพลตฟอร์มที่ดึงทุกฝ่ายร่วมลงทุน

ต่างจาก Hopper ที่เน้นแข่งขันด้านพลังประมวลผลของชิปล้วนๆ Blackwell ครั้งนี้เปิดตัวชิป การแพ็กเกจเซิร์ฟเวอร์ (GB200) และบริการซอฟต์แวร์ (NIM) ไปพร้อมกัน แสดงว่า NVIDIA ต้องการครอบคลุมทั้งเส้นทางตั้งแต่องค์กรได้รับพลังประมวลผลจนถึงการติดตั้งแอปพลิเคชัน AI ใช้งานจริง นี่จึงอธิบายได้ว่าทำไม AWS, Microsoft, Google จึงประกาศนำไปใช้พร้อมกันเกือบทันที เพราะสำหรับพวกเขา Blackwell คือโครงสร้างพื้นฐานสำหรับรอบใหม่ของการลดราคาและขยายบริการ AI บนคลาวด์ ขณะที่หนึ่งในข้อบ่นใหญ่ที่สุดขององค์กรที่นำ generative AI ไปใช้ตอนนี้คือต้นทุนการเรียก API และความหน่วง หากประสิทธิภาพเป็นจริงตามที่อ้าง ต้นทุนต่อหน่วยของการสร้างหรือจัดซื้อขีดความสามารถ AI ในอีก 1-2 ปีข้างหน้าน่าจะลดลงชัดเจน

ความหมายสำหรับผู้บริหาร

ข้อคิดที่ตรงที่สุดจากข่าวนี้สำหรับผู้บริหาร ไม่ใช่ต้องรีบจัดซื้อฮาร์ดแวร์ใหม่ทันที แต่คือการเตือนว่า "เพดานต้นทุน" ของการนำ AI ไปใช้งานกำลังลดลงอย่างรวดเร็ว แอปพลิเคชัน AI ที่เคยถูกพักไว้เพราะต้นทุนประมวลผลสูงเกินไป (เช่น แชทบอทบริการลูกค้าแบบเรียลไทม์ การสรุปเอกสารจำนวนมาก โมเดลพยากรณ์ห่วงโซ่อุปทาน) เมื่อคำนวณต้นทุน-ผลตอบแทนใหม่ในอีก 1-2 ปีข้างหน้า อาจข้ามเกณฑ์ความคุ้มค่าไปแล้ว ควรนำกลับมาพิจารณาใหม่ในการทบทวนเทคโนโลยีประจำปี

แบบทดสอบ: ยืนยันความเข้าใจ
5 บทความ · ตอบถูก 80% ผ่าน บันทึกลงโปรไฟล์การเรียนรู้ เข้าสู่ระบบเพื่อทำแบบทดสอบ
ถาม AI: บทความนี้ใช้กับการบริหารของคุณอย่างไร?
เนื้อหาสร้างโดย AI จากบทความนี้ โปรดใช้วิจารณญาณในการพิจารณาความถูกต้อง
ตอนถัดไป・บันทึกเหตุการณ์ AI เพื่อผู้บริหาร Google Cloud Next 2024: เปิดตัว Gemini 1.5 Pro รุ่นทดลองสาธารณะ

บทความที่เกี่ยวข้อง

เราใช้คุกกี้ที่จำเป็นเพื่อรักษาการเข้าสู่ระบบและภาษา และเก็บพฤติกรรมการใช้งานเพื่อปรับปรุงบริการ คุณเลือกเฉพาะที่จำเป็นได้ นโยบายความเป็นส่วนตัว