天数智芯完成混元Hy3极速适配
15 小时前 / 阅读约2分钟
来源:集微网
7月6日,天数智芯发布并开源混元快慢思考融合的混合专家模型Hy3,采用MoE架构,支持256K上下文长度,智能水平跃升,定价降低,稳定性与性价比提升,已完成数百款大模型适配。

7月6日,混元快慢思考融合的混合专家模型Hy3正式发布并开源。天数智芯依托“通用GPU系列产品+自研智算软件栈”率先完成Day0全链路适配。客户无需繁复移植即可高效部署,一键释放Hy3在代码生成、复杂智能体、超长文档处理等全场景的实用价值。

Hy3采用MoE架构,总参数295B、激活参数仅21B,支持256K上下文长度。相较preview版本,Hy3的智能水平再次跃升,首次以较小尺寸比肩参数规模2-5倍的旗舰模型,且定价进一步降低,稳定性与性价比显著提升。

天数智芯基于对MoE架构与长上下文场景的深度优化,充分激发Hy3的极致效能:

  • 软件层面,全自研编译系统与FlagGems算子库实现算子迁移效率倍增,推理延迟大幅降低,代码生成、文档分析等核心场景性能对齐国际主流方案;

  • 部署层面,无缝兼容vLLM、SGLang、TGI等主流推理引擎,支持单卡、多卡弹性伸缩,提供从私有化集群到云端MaaS的灵活交付,真正做到“发布即兼容、上线就能用”。

截至目前,天数智芯已完成数百款全球主流大模型的深度适配与精调,具备新模型Day0原生支持能力。尤其在混元大模型生态中,天数智芯连续实现Hy2、Hy3 preview到Hy3正式版的“零时差”适配,用可预期、可持续的算力底座,协同构建“芯片-模型-应用”的正向闭环。

未来,天数智芯将持续迭代软硬件技术,推动国产大模型在互联网、金融、政务、制造等千行百业走深向实,为AI产业高质量发展注入“芯”动能,共筑繁荣生态。