搜索
腾讯混元发布极轻量AI模型，端侧部署内存仅需600M
1 天前
腾讯混元于2026年2月10日正式发布面向消费级硬件的极小规模模型HY-1.8B-2Bit，等效参数量仅0.3B，内存占用约600MB，小于多数手机应用。该模型基于首个产业级2Bit端侧量化方案，通过2比特量化感知训练（QAT）对HY-1.8B-Instruct模型压缩产出，参数量缩减至原始模型的1/6，在端侧设备上生成速度提升2-3倍，同时保留全思考能力。模型已适配Arm等计算平台，支持Arm SME2技术的移动设备高效运行，并在MacBook M4和天玑9500芯片上实现显著加速。腾讯混元通过数据优化、弹性拉伸量化及训练策略创新提升模型性能，未来计划引入强化学习与模型蒸馏技术缩小低比特与全精度模型的能力差距。
