腾讯姚顺雨团队:Hy4仍有很大改进空间,计划训练更大规模模型
52 分钟前

11月21日凌晨,腾讯首席AI科学家姚顺雨率混元团队在海外社交媒体社区举行文字AMA公开问答。针对外界质疑字节跳动、Kimi等模型参数量已向3T甚至5T推进、混元为何停留在700B,团队回应称,Hy3和Hy4已证明较小模型也能超越较大模型,且成本更低。团队同时表示,Hy4仍有较大改进空间,尤其在后训练方面,目前正投入大量精力开展大规模强化学习,并持续改善用户体验和模型安全,还计划训练更大规模模型。