搜索
刷屏的「Astra 改造 Qwen 大脑」跟我们想要的 RSI 没多大关系
2 小时前
MIT CSAIL研究者发布的博客《权重空间编程的火花》引发广泛关注。实验显示，GPT-6 Astra可通过修改少量权重提升小语言模型在数学等任务上的成绩，并能仅凭权重识别强化学习网络功能、从零生成可运行的游戏网络参数，被不少人关联到递归自我改进（RSI）概念。但梳理公开实验日志后发现，Qwen3.5-0.8B的成绩暴涨实为修复了其在特定设置下易陷入思考循环、无法输出完整回答的bug，并未新增数学能力；在很少出现循环问题的Gemma 3 270M上，同类修改带来的提升十分有限。实验中所有目标、规则与工具框架均由人类设定，Astra仅自动化完成指定的定点权重调试操作，并未真正读懂其他模型的内部逻辑，也未实现递归自我改进，本质是模型训练环节的自动化升级，距离能自主理解、自主进化的RSI闭环仍有很大差距。不过该研究也展现出大模型可将构造的算法直接写入指定神经网络权重的新能力，且已在多款不同大模型上复现。
