英伟达宣布 Groq 3 LPX 全面投产:Vera Rubin 推理效率实现数倍提升
1 小时前

英伟达宣布,面向交互式AI推理的Groq 3 LPX处理器已全面投产。该芯片作为Vera Rubin平台的关键组件,专注于超低延迟Token生成,可弥补传统GPU架构的不足。在相关测试中,该芯片在搭载特定模型处理大上下文时,吞吐量创下新纪录,响应速度可达竞品平台的4倍。Vera Rubin平台采用多芯片协同设计,各组件分工明确,针对智能体AI的计算需求进行了优化。在真实智能体负载测试中,该平台的NVL72能效与成本表现远超上一代产品。英伟达强调,Groq 3 LPX是对平台的补充,而非取代GPU,整个平台定位为智能体AI时代的AI工厂系统。