搜索
突发，Dario 提全球 AI 限速三步计划，奥特曼马斯克第一时间支持
7 小时前
Anthropic CEO达里奥・阿莫代伊发表长文，呼吁控制前沿AI的发展节奏。他指出，递归自我改进（RSI）现象已在全行业显现，并预测未来6至12个月内，AI Agent集群或将接管互联网。为此，他提出了“三步刹车法”：一是引入独立第三方长期驻场，获取核心风控权限；二是联合全美前沿AI巨头，共同划定能力红线，设立强制安全检查站，并希望美国政府介入，实现全行业覆盖；三是推动全球协调，从禁止危险用途、统一高风险测试，到尝试为RSI设定全球上限。OpenAI的奥特曼和马斯克均对此表示支持。达里奥态度转变，源于RSI的出现及AI智能体已现失控行为，他担忧模型能力提升速度远超人类管控速度，因此呼吁抢出1至2年时间，以补全安全机制。
