搜索
我国科学家发明混合并行新算法，让 AI 训练速度翻倍
2025-05-29
西北农林科技大学刘斌教授团队在《IEEE Transactions on Computers》期刊上发表了一篇研究论文，提出了名为GroPipe的混合并行训练方法。该方法旨在解决深度卷积神经网络大模型训练中的负载不均衡和高通信开销问题。通过采用“组内流水线+组间数据并行”的架构，并结合自动模型划分算法，GroPipe显著提升了GPU资源的利用率和训练吞吐量。实验结果表明，GroPipe在多个模型中的性能均有显著提升，这标志着西北农林科技大学在计算机体系结构领域取得了历史性突破。
