NVIDIA发布Blackwell架构:万亿参数AI模型运算成本降25倍、推理提速30倍
NVIDIA于GTC大会发布新一代Blackwell GPU架构,宣称可让万亿参数大型语言模型的运行成本与能耗降低最高25倍,训练速度为上代Hopper的4倍、推理速度达30倍,AWS、微软、谷歌等云服务商已宣布采用。
NVIDIA于3月18日在年度GTC大会上正式发布新一代GPU架构平台「Blackwell」,作为2022年发布的Hopper架构的继任者。首席执行官黄仁勋在主题演讲中宣称,采用Blackwell架构的系统可让组织以最高25倍更低的成本与能耗,实时运行参数规模达到「万亿级」的生成式AI大型语言模型;相较于上代Hopper,训练速度号称提升4倍,推理(即模型实际回答问题、生成内容的运算阶段)速度更号称提升达30倍——这是两个不同面向的性能宣称,并非同一个「25倍」。
与架构同时发布的,还有将两颗Blackwell GPU与一颗Grace CPU整合封装的「GB200 Grace Blackwell」超级芯片,以及名为NVIDIA NIM的推理微服务——一套让企业更便捷地将预训练AI模型部署到自家云端或本地环境的软件工具。NVIDIA同步宣布,AWS、微软Azure、谷歌云等主要云服务商,都已确认将在其数据中心采用Blackwell架构的运算系统。
技术意义:从「训练得起」到「用得起」
过去两年生成式AI的竞争焦点多半放在模型参数规模与训练能力,但企业实际落地AI时面临的最大障碍,往往是「运行」——模型上线后每次回答一个问题所需的运算成本——贵到难以规模化。Blackwell主打的信息很清楚:不是模型能不能训练出来,而是训练出来之后能不能用得起。若25倍成本与能耗下降的宣称能在实际部署中兑现,过去只有极少数科技巨头负担得起的万亿参数模型,未来成本门槛将大幅降低。
与上代对比、业界反应:平台化策略换来集体押注
相较于Hopper单纯比拼芯片算力,Blackwell此次芯片、服务器封装(GB200)与软件服务(NIM)三者一起推出,显示NVIDIA要把「企业从获取算力到实际部署AI应用」的整条路径都纳入产品线。这也解释了为何AWS、微软、谷歌几乎同步表态采用——对云服务商而言,Blackwell代表下一轮AI服务降价与扩容的基础设施,而目前企业落地生成式AI最大的抱怨之一,正是API调用成本与延迟。若性能宣称大致兑现,未来一到两年企业自建或采购AI能力的单位成本有望明显下降。
对管理者的意义
这则新闻对管理者最直接的启示,并非要立刻采购新硬件,而是提醒:AI落地的「成本天花板」正在快速下移。过去因运算成本太高而暂缓评估的AI应用(例如实时客服对话、大量文档摘要、供应链预测模型),一到两年内重新估算成本效益时,很可能已跨过可行门槛,值得在年度技术盘点时重新排入评估清单。