AMD发布开源Instella-MoE语言模型
2 小时前

7月24日,AMD发布Instella-MoE系列开源混合专家语言模型,总参数量160亿,激活参数28亿,采用27层解码器架构,含6个版本,预训练速度提升12.7%,推理首Token响应时间最多缩短39.2%。