英伟达发布Dynamo，号称“AI工厂的操作系统”

英伟达正式发布Dynamo，号称是“AI 工厂的操作系统”。Dynamo是一个“分布式推理服务库”。本质上，它是一个针对用户需求token而无法生产足够token之间问题的开源解决方案。黄仁勋展示了一张关于推理的图表，X轴显示用户每秒的Token数，Y轴显示工厂每秒的Token数。在Dynamo、Grace Blackwell NVLink72超级芯片的加持下，Blackwell相比Hopper可实现25倍的性能提升。而在推理模型中，Blackwell的性能是Hopper的40倍。黄仁勋还打趣道，有了上述最新技术加持，搭建AI工厂的厂商“买得越多、省得越多”。

本文源自金融界AI电报

相关文章：

中央网信办：算法问题治理初具成效 将常态化巡查05-22

销量销额10倍增长！MOVA业绩猛增创红利05-21

Fedora 43革新：GNOME桌面敲定弃用X11，拥抱Wayland05-21

“直播打赏”治理应明确平台边界 促进网络消费健康稳步增长05-13

九号公司「一万种生活在Q你」Q系列新品发布，引领女性智能出行新浪潮05-11

美股三大指数集体收涨 特斯拉涨超3%05-09

美食成“五一”滴滴打车最热场景，旅游打车需求上涨30%05-06

不放55亿“蛋糕” 英伟达要推中国特供版AI芯片05-04