11 月 18 日晚,腾讯首席 AI 科学家、混元大模型负责人姚顺雨回到母校清华大学交叉信息研究院(姚班),与本科同窗、清华交叉信息院助理教授吕凯风做了一场近距离的闭门问答交流。
作为姚班 2015 级校友与普林斯顿博士,姚顺雨曾参与提出将推理与行动结合的 ReAct 范式,是代码 Agent 评测基准 SWE-bench 的共同作者,也是智能体评测基准 τ-bench 的第一作者,并在 OpenAI 参与了 Operator(Computer-Using Agent)与 Deep Research 等项目的研发。
如今负责腾讯混元基础模型研发,他兼具前沿探索与大规模工业落地的双重视角。整场交流氛围被参会者形容为“像播客访谈一样轻松”,话题横跨基础设施、训练算法、数据壁垒、安全攻防与组织管理。

【图注:姚顺雨清华交流现场】
姚顺雨系统梳理了当前大模型研发面临的关键问题:
- 在组织与评测上,他质疑唯指标导向和过度依赖“赛马机制”,警惕针对测试集刷分让评测失去诊断价值;
- 在技术演进上,他认为 RSI 等热门概念存在一定炒作成分,强调回归具体工程问题,并指出策略梯度框架在大规模强化学习中依然重要,而对数据质量的判断力正成为模型团队的重要竞争优势;
- 在商业与个人选择上,他讨论了模型能力与商业价值之间的落差,并以“GPT-6 发布时,你的创业公司会睡得更香,还是更睡不着”这一问题,提醒创业者重新审视自身业务与基础模型进步之间的关系。
谈到 AI 公司的组织文化,姚顺雨对比了两种不同的运转逻辑:一种是以量化指标和“赛马机制”为核心,谁的榜单分数高就向谁倾斜资源;而他自己更看重的,是 Trust(信任)与 Taste(判断力与审美)。
他拿微信、游戏和影视项目举例。这类产品在正式面世前,很难靠 A/B Test 精准预测最终成败,管理者需要相信核心团队的审美、经验与长期判断,并愿意为其保留试错与成长的时间。

【图注:姚顺雨在清华姚班现场交流,图源:小红书「喵小橙 Chloe」】
他也批评了当下大模型行业存在的“唯指标崇拜”。当团队负责人对技术细节不够了解时,下属往往倾向于汇报最容易量化的数字,比如模型参数量、数据规模、算力利用率(MFU),或者 MMLU 等公开榜单又涨了几分。然而,真正影响系统表现的工作,可能是花大量时间修复一个底层计算正确性的 Bug、清洗掉一批有问题的数据,或者保障整个训练链路稳定运行。这些工作很难浓缩成汇报 PPT 上的亮眼数字。
对于行业内的“刷榜”现象,姚顺雨也提出了警惕:评测(Eval)的重要价值,是帮助团队看清模型的真实短板;一旦过度针对测试集进行优化,评测就可能逐渐失去诊断作用,甚至误导研发方向。
这也是为什么模型研发需要重视评测集的独立性,避免通过反复调参和针对性训练,让测试成绩与真实能力脱节。
在组织演进模式上,姚顺雨还谈到了 OpenAI 式的“自下而上(Bottom-up)”创新。早期 OpenAI 曾重点投入机器人等方向,但 GPT 最初作为一个相对较小的探索项目,逐步展现出潜力后获得更多资源;后来的 o1 推理模型,也经历了从数学相关研究逐渐发展起来的过程。
这种组织方式允许创新从小团队和具体实验中涌现,再根据实际进展决定资源投入。相对而言,当技术路线逐渐明确时,大规模研发又需要更强的工程协同和资源统筹。
如何在探索阶段为非共识创新保留空间,又在方向明确后形成足够强的工程执行力,是大模型组织管理面临的一项重要挑战。
面对清华姚班这群以学术能力见长的学弟学妹,姚顺雨强调,大模型研发不能只依赖个人的聪明才智。
大模型研发不是研究者独自在办公室里完成理论推导,没有任何单一天才可以独立交付一个基础模型。在大规模系统工程中,他更看重团队成员的几个特质:
- Low Ego(不过度自负、保持坦诚):能够承认错误、尊重事实,愿意接受不同意见,而不是因为个人判断和立场阻碍团队协作。在复杂工程中,沟通和纠错能力同样重要。
- Co-design(跨栈协同设计):大模型研发横跨算法、Infra、芯片、数据与产品。一个预训练架构的设计必须同时权衡训练吞吐、推理显存开销、后训练适配性与综合成本,任何单一岗位都无法闭门造车,需要不同背景的人共同做全局权衡。
- Solid(严谨、扎实、重视细节):真正重要的工作,有时是排查一个难以复现的 Bug,识别训练数据中不易察觉的问题,或者修复影响模型表现的细微异常。这些工作未必能立刻提升榜单分数,却可能直接决定训练结果的可靠性。对于大规模模型团队而言,对细节负责、对结果持续验证,是不可忽视的工程能力。
- 学习能力胜过静态履历:大模型技术栈迭代很快,过去的技术经验固然重要,但面对新的模型架构和训练方法,快速学习与适应变化的能力往往更加关键。他认为,一些基础扎实、学习能力强的年轻研究者,也能够承担重要研发任务。
此外,他还为不同性格的同学提供了大模型产业链的岗位适配参考:
• 预训练与 Infra:适合喜欢明确反馈、享受指标持续推进的人;
• 算法研究:适合想象力丰富、愿意探索新问题的人;
• 产品与对话体验:适合热衷观察人性、对用户需求敏感的人;
• 生产系统与模型部署:适合做事严谨、责任心强的人。
这些判断背后反映出一个变化:随着基础模型的复杂度不断提高,个人能力的价值不再只取决于某项技术有多精深,还取决于能否把不同环节的工作真正连接起来。
针对当下资本与媒体热捧的 RSI(递归自我改进)、具身智能、Personal Agent 等概念,姚顺雨认为其中一些热词存在过度包装的现象,科研与创业者需要穿透概念,追问背后真正的问题。
在他看来,RSI 的部分实践可以理解为用 AI 更好地驱动研发循环。过去,开发者已经在借助 GitHub 等工具进行代码协作和软件开发;如今,随着模型能力提升,AI 正逐渐参与代码编写、Bug 修复、数据清洗、实验执行与结果分析等更多环节。
真正值得关注的,是这些能力能否持续提高研发效率,并在可靠验证的基础上推动下一轮改进,而不只是不断创造新的技术概念。
这也意味着,让模型深度参与数据合成、自动化实验验证与代码重构,仍然蕴藏着大量具体的工程机会。
不过,研发自动化并不完全等同于严格意义上的递归自我改进。后者还需要证明,AI 参与改进所带来的能力提升能够被有效验证,并形成持续、可重复的迭代过程。
对于同样火热的具身智能与 Personal Agent,姚顺雨也强调,不应仅仅因为概念受到关注,就忽略具体的技术瓶颈与商业问题。
以具身智能为例,物理世界的数据采集受到设备数量、真实环境、操作时间和实验成本的约束。与互联网文本和视频数据相比,机器人真机数据的规模化获取更为复杂。
与此同时,通用基础模型的多模态理解、空间推理和工具使用能力也在持续进步。这让具身智能创业者不得不考虑一个重要问题:哪些能力需要依赖专门的机器人模型获得,哪些能力可能随着通用基础模型的发展而逐渐被覆盖?
这并不意味着具身智能的专用模型必然被通用模型取代。真实机器人系统仍然需要解决物理交互、实时控制、硬件适配、安全性和实际场景部署等问题。
但对创业者而言,技术路线能否持续受益于算力、数据和基础模型能力的增长,值得认真评估。真正长期存在的机会,可能不只在于训练一个独立模型,也包括硬件系统工程、真实场景部署与具体物理任务的解决。
剥开概念热度后,姚顺雨在现场进一步拆解了大模型研发在算力、算法、数据与模型体系上的几个关键难题。

【图注:现场手写板书,图源:小红书「沐汐」】
第一,小规模实验的失败,不一定意味着研究方向本身无效。
姚顺雨分享了自己博士后期的一段受挫经历:在提出 ReAct 后,他曾尝试将相关推理与行动策略融入模型训练,希望进一步提高模型能力。但最初在 LLaMA 13B 上的实验效果并不理想,一度让他怀疑自己的科研判断。
后来他逐渐意识到,模型规模不足可能是影响实验结果的重要因素。
在小规模实验中,模型能力和实验噪声都可能影响研究结论。某种方法在小模型上没有取得明显收益,并不一定意味着它无法在更大规模上发挥作用。
但反过来,小模型上的改进也未必能够直接迁移到大模型。因此,研究者需要结合数学推导、缩放规律与实验结果,判断哪些结论具有跨规模的参考价值,尽可能提高大规模训练的成功率。
第二,后训练(Post-training)与强化学习(RL)仍然高度依赖相对基础的算法框架。
过去,学术界在强化学习领域探索过 Value-based、Model-based 等多种方法,以及不同的策略优化算法。
但在当前大模型后训练实践中,以策略梯度(Policy Gradient)为基础的方法及其变体仍然占据重要位置,GRPO 就是其中之一。
姚顺雨认为,一个重要原因在于,这类方法引入的额外假设相对较少,更容易在大规模实验中进行验证和应用。
不过,算法形式相对简洁,并不意味着工程实现简单。
在工程优先级上,他给出了明确排序:RL 训练首先要保证正确性,其次是稳定性,最后才是效率。
训练系统与推理系统之间需要密切协同,如何分配 GPU 资源、控制显存占用、提高吞吐量,以及如何确保长时间训练的数值稳定性,都会影响最终效果。
第三,后训练数据必须同时兼顾“智力水平”与“真实实用性”。
姚顺雨将高难度任务,例如数学题,与模型的 Intelligence(智力)联系起来。这类任务可以通过持续提高难度,帮助训练模型的复杂推理能力。
而日常写作、办公等任务,虽然不一定需要同样高强度的推理,却直接影响模型的 Alignment(对齐)与实际使用体验。
一个数学能力很强,却无法很好完成真实用户工作任务的模型,同样存在明显短板。
因此,后训练需要平衡任务难度、真实场景需求与数据质量,还要研究不同评测指标与最终训练效果之间的关系。
第四,预训练数据竞争远未结束,团队的数据判断力越来越重要。
针对行业对“数据墙(Data Wall)”的担忧,姚顺雨认为,预训练数据仍然存在大量值得挖掘和优化的空间。
高质量代码等数据获取成本较高,训练时可能需要重复使用,但重复次数过多又可能引发记忆和过拟合问题。合成数据能够增加供给,却需要解决质量退化问题。此外,动态数据的引入、不同来源数据的配比,也都直接影响模型训练效果。
从早期依赖人工标注,到后来利用小模型辅助标注,再到如今使用大模型生成和筛选数据,数据生产方式一直在变化。
但无论使用何种技术手段,如何判断哪些数据真正有价值、哪些数据能够改善模型能力,始终是研发团队必须解决的问题。
数据生成工具可能被快速复制,但对数据质量与训练目标的判断力,需要长期积累。
第五,模型层级体系(Model Hierarchy)与工业非文本数据成为值得关注的新方向。
未来一种可能的模型体系是,先训练能力足够强大的基础模型,再通过蒸馏等方式获得不同尺寸、适配不同延迟与成本预算的小模型,形成模型层级体系。
尤其随着 AI for AI 的发展,小模型训练成本相对较低、实验迭代更灵活的优势可能进一步显现。
与此同时,医疗临床记录、工业时间序列与结构化表格等大量非文本数据,也值得探索。
目前,直接针对这些模态训练原生模型,往往会遇到推理能力不足等问题。姚顺雨提出了两条可能的路径:一是让 Agent 像人类专家一样调用图表分析工具与专用模型,二是将专业数据作为知识纳入模型体系。
在商业化与产业趋势层面,姚顺雨指出了一个常被外界忽略的规律:实验室里的技术进步通常是相对平滑、连续发生的(Smooth and Continuous),但市场感知到的商业爆发,往往来自交互方式的跳变或能力跨越某个实用门槛。
从 GPT 系列模型的持续演进,到 o1 等推理模型的能力提升,研发人员能够通过损失函数、评测成绩和模型行为持续观察到进步。但对于普通用户而言,这些进步未必能够立即转化为明确的使用价值。
直到 ChatGPT 把大模型封装成一个简单的对话界面,或者 Deep Research 让用户能够通过自然语言发起复杂的资料搜集与研究任务,更多人才开始直观感受到模型能力提升带来的变化。
因此,对于 AI 应用创业者而言,有两个方向值得关注:寻找能够改变人机交互方式的新产品形态,以及持续测试模型能力边界,及时发现那些刚刚从“不可用”跨入“可用”的任务。
在商业定价上,姚顺雨还强调了竞争格局的重要性。
模型的技术质量和商业价格并不是简单的正比关系。即使一家公司的模型能力很强,其定价能力仍然会受到竞争对手、开源模型和用户替代选择的影响。
技术领先能够创造阶段性的竞争优势,但优势能够维持多久、能否转化为长期收入,还取决于产品、渠道、用户关系以及其他竞争壁垒。
他还提出了一个颇具冲击力的商业问题:如果一家公司的模型在公开榜单上已经接近甚至超过 GPT,但实际商业收入只有对方的百分之一甚至千分之一,团队就需要认真检查产品本身出了什么问题。
模型能力、用户价值与商业收入之间存在明显距离。跑分领先并不意味着用户一定愿意付费,更不意味着企业已经找到成熟的商业模式。

【图注:分享结束后,姚顺雨在现场与清华学子继续交流,图源:小红书「沐汐」】
面对自动化浪潮对个人职业的冲击,姚顺雨判断,未来部分常规 Infra 与算法工作对人工的依赖可能继续下降,但目标定义、数据质量判断、结果验证以及复杂现实世界的系统部署,仍然需要人的深度参与。
他向在场的年轻创业者和学生提出了一个值得反复思考的问题:“假设 GPT-6 发布,你的创业团队会因此睡得更香,还是更睡不着?”
如果模型能力的跃迁会直接削弱企业的核心业务,就需要重新审视创业方向。反过来,如果基础模型每一次进步,都能让产品成本更低、能力更强、服务范围更广,那么模型升级反而可能成为企业的增长动力。
在纯粹的认知任务上与通用大模型正面竞争,成本可能越来越高。而深入物理世界、硬件制造、真实实验以及对复杂用户需求的理解,则有机会积累不同类型的资源与能力。
当然,这些领域也并非天然能够免受基础模型进步的影响。对于创业者而言,更关键的是判断自身能力能否与模型进步形成互补关系。
对谈尾声,姚顺雨也聊起了自己在清华读书时的经历。
他直到大三下学期才因为推研要求逐渐接触科研,最初尝试过一些当时热门的研究方向,却发现自己并不真正感兴趣。后来,他开始更多地追随自己对计算机和其他学科的好奇心,逐渐找到了适合自己的研究方向。
他还提到,自己在博士最后一年专门选修了集合论课程,因为意识到进入具体工作后,可能很难再有时间系统学习那些纯粹出于兴趣的理论知识。
身边也有人在大学时参加说唱社团、学习数学。这些当时看起来与科研没有直接关系的经历,后来可能逐渐转化为语言审美、理论理解与研究判断力。
在姚顺雨看来,很多经历的价值并不会立即显现,人生中的一些弯路也未必真的浪费。
声明:本文为 AI 前线整理,不代表平台观点,也不构成投资建议,未经许可禁止转载。
