搜索
中科曙光AI推理原生存储FN Neo全新升级
2 天前
近日，中科曙光推出了全新升级的AI推理原生存储FN Neo。实测表明，该产品使模型首Token响应时间缩短73%，整体Token吞吐能力提高150%，有效减少了用户交互等待时间，增强了系统并发服务能力。为满足生产级AI业务全天候运行需求，FN Neo具备99.999%的高可靠性，多重故障防护机制可确保推理业务持续不中断。此外，该产品兼容主流推理框架和多元组网环境，企业无需大规模改造现有系统即可部署，在复用现有推理生态的基础上提质增效，为大模型和智能体的规模化生产落地提供有力支撑。
