搜索
彩云科技：AI团队两次刷新大模型训练速度世界纪录，相关代码已并入官方开源仓库
3 小时前
近日，人工智能企业彩云科技宣布，其基础模型算法团队在全球开源AI技术竞速项目NanoGPT Speedrun中，连续两次打破大模型训练速度世界纪录，将达标训练时间缩短至1分16秒，相关代码已并入官方开源仓库。据悉，彩云科技团队在模型架构上取得两项原创性创新——DCMHA（可动态组合多头注意力）和MUDD（多路动态稠密连接），这两项创新分别于2024年和2025年在国际机器学习顶级会议ICML上发表，并均入选口头报告。
