搜索
Anthropic CEO 呼吁前沿 AI 限速，奥特曼、马斯克表态支持
4 小时前
Anthropic CEO达里奥・阿莫迪发文，呼吁为前沿AI发展限速，并提出围绕“可核验性”的三步方案：企业先引入驻场第三方评估员，再推动美国及其盟友协同行动，最终寻求全球协作。他指出，AI已出现递归式自我改进，6至12个月后智能体群或能通过僵尸网络控制互联网。因此，需放慢模型能力提升速度，将额外时间用于提升运营可靠性、对齐性、可解释性及测试评估等安全领域。他认为，美国需维持并扩大对中国的技术领先，才有减速空间，而全球限速最终需中国参与。他还提出了四级国际协议层级，但认为全面限速短期内难以实现。OpenAI CEO奥特曼转发支持，马斯克也表示认同。此前，Anthropic研究员雅各布・考克森离职时曾警告，AI或在10年内灭绝人类。
