搜索
中科曙光发布词元加速技术体系：IBGDA 十万卡级集群完成验证
2 小时前
中科曙光正式推出scaleFabric Token加速技术体系，率先在国内实现IBGDA技术的规模化应用。该技术通过构建“算存传”三级紧耦合词元加速通道，提升词元吞吐效率，实现全链路高速流转，并将路径优化扩展至大规模集群，协同提升词元生成效率。在大模型推理以MoE架构为主流的背景下，IBGDA技术可减少CPU在关键通信路径中的参与，提升并行通信效率。此前，该技术的规模化应用主要由国际厂商主导，国产案例较少。目前，曙光自研的IBGDA技术已在十万卡级大规模集群中完成验证，填补了国内空白。随着该技术进入规模化部署阶段，相关词元加速技术体系有望提升多卡间数据交换效率，为混合专家模型等提供国产高速互连方案，助力国产智算基础设施性能提升。
