智能体AI测试:英伟达Vera CPU比英特尔Sapphire Rapids快2.2倍
10 小时前 / 阅读约2分钟
来源:凤凰网
DeepInfra报道英伟达Vera CPU在智能体AI负载测试中速度是其它CPU的2倍多,相比AMD Turin 9755处理器性能提升80%,runc延迟比英特尔Sapphire Rapids快2.2倍。

7 月 22 日消息,云端 AI 推理平台 DeepInfra 昨日(7 月 21 日)发布博文,报道称在生产环境下智能体 AI(Agentic AI)负载测试显示,英伟达 Vera CPU 速度是其它 CPU 的 2 倍多。

英伟达在此前官方博文中指出,相比较 AMD 的 Turin 9755 处理器,Vera CPU 在处理智能体 AI 负载上的性能提升 80%。

而在 DeepInfra 最新测试中,英伟达 Vera CPU 的 runc(基于 Linux 内核特性的“进程级”轻量化容器)延迟为 29ms,而英特尔 Sapphire Rapids 为 64ms,

英伟达 Vera 快 2.2 倍

。IT之家附上相关截图如下:

图源:deepinfra

测试环境使用统一条件:每次运行均为 20 个物理核、每核 1 线程、单 NUMA 节点,并启用 CPU confinement,超出核预算的运行会被丢弃。

芯片 Kata ms (deployed) runc ms (intrinsic) IPC
NVIDIA Vera 58 29 3.62
AMD Zen5 Turin 87 35
Intel Granite Rapids 103 51 2.44
Intel Sapphire Rapids 122 64 2.44