搜索
Yuan3.0 Ultra开源
1 天前
2026年3月5日，YuanLab.ai团队正式开源发布Yuan3.0 Ultra多模态基础大模型。作为源3.0系列面向万亿参数规模打造的旗舰模型，Yuan3.0 Ultra是当前业界仅有的三个万亿级开源多模态大模型之一。该模型将混合专家（MoE）大模型的训练效率优化系统性引入模型结构设计，并围绕企业应用及智能体工具调用等方面进行了深度优化。Yuan3.0 Ultra采用统一多模态模型架构，由视觉编码器、语言主干网络与多模态对齐模块组成，实现视觉与语言信息的协同建模。其中，语言主干网络基于MoE架构构建，包含103层Transformer，训练初始阶段参数规模达1515B，通过LAEP方法优化至1010B，预训练算力效率提升49%，激活参数为68.8B。此外，模型还引入了Localized Filtering Attention（LFA）机制，有效强化对语义关系的建模能力，提升模型精度。Yuan3.0 Ultra在多模态文档理解、检索增强生成（RAG）、表格数据分析、内容摘要与工具调用等企业级任务中表现突出，能够高质量处理企业环境中的复杂信息形态，如图文混排文档、多级结构表格以及跨文档知识检索，为基于OpenClaw等智能体框架构建多模态数据驱动的企业Agent AI提供核心能力支撑。目前，Yuan3.0 Ultra已全面开源，模型参数和代码均可免费下载使用。
