搜索
英伟达Vera CPU测试显示AI智能体编排性能提升，支持高并发推理
1 天前
7月21日，英伟达宣布，AI云平台DeepInfra测试结果表明，Vera CPU在AI智能体工作负载下，编排速度较其他CPU产品最高可提升2.2倍，且支持并发运行的智能体数量最多可增加1.6倍。DeepInfra平台每周处理近5万亿Token，其中约30%源于智能体应用。英伟达指出，随着AI智能体承担更多推理、规划及工具调用任务，CPU在模型调用中的调度效率，将成为影响AI基础设施性能的关键因素。
