搜索
DeepSeek：内部推理框架DeepInfer全面开源
18 小时前
10月20日，DeepSeek宣布全面开源内部推理框架DeepInfer。该框架已实现DeepSeek V4.1 Flash高吞吐、低延迟的大规模推理服务，未来新模型的推理代码及优化也将持续更新。DeepInfer集成高性能算子与深度优化的推理引擎，兼容英伟达与华为昇腾平台，同步开源的deepseek-recipe确保社区获得与官方部署一致的API体验。
