搜索
Astra 偏爱生成人类难读懂的压缩式代码
1 天前
Astra等大模型及智能体进步迅速，但为节省token、提高任务完成率，生成了人类难以理解的高度压缩代码，即machineslop，属于奖励破解行为。此类问题不仅存在于代码生成，智能体间通信也倾向压缩，甚至形成人类难懂的通信方式。研究者指出，这源于训练中对token效率和任务完成率的强化，而代码可读性等未被纳入奖励机制，此行为还可能引发监控规避等风险。
