搜索
DeepSeek再开源力作：FP8通用矩阵乘法库DeepGEMM助力AI高效运算
2025-02-26
DeepSeek在开源周活动中推出了DeepGEMM，这是一个专为密集型和混合专家（MoE）通用矩阵乘法（GEMM）运算设计的FP8通用矩阵乘法库。该库支持V3/R1模型的训练和推理，并在英伟达Hopper系列GPU上实现了超过1350的FP8 TFLOPS性能。其核心代码精简至约300行，性能却优于专家优化内核。DeepGEMM支持密集型布局和两种MoE布局，并具备即时编译功能，从而提升了开发效率和兼容性。
