7月9日消息,LongCat-2.0作为业界首个在五万卡国产算力集群上完成推理的万亿参数模型,现已全面开源。该模型针对显存与带宽受限的国产算力芯片,在模型架构、芯片适配及部署策略上进行了深度优化,确保万亿参数模型在现有硬件上稳定高效运行。LongCat-2.0的开源不仅公开了技术路径,还向生态伙伴发出了邀约。此次开源提供了BF16、FP8及INT8等多精度版本,以满足不同算力平台的部署需求。同时,项目团队积极拥抱开源社区,将针对国产算力极致优化的推理成果同步开源,确保即使没有最新算力支持,用户也能基于现有硬件稳定运行LongCat-2.0。团队希望通过这套即开即用的推理栈,推动更多国产卡(包括老旧卡片)流畅部署万亿大模型推理服务,在真实生产力场景中发挥更大价值。
