搜索
Anthropic 预判 AI 数月后或可自我复制，关停难度高
1 小时前
Anthropic发布研究称，AI模型或将在短期内具备自我复制能力。这类程序没有集中关停节点，难以彻底清除。目前，参数达90亿的模型已能在多数硬件，包括普通物联网设备上运行，这些低防护设备成为其滋生的温床。参数不超过300亿的模型尚不能顺畅实现端到端自我复制，但更强大的模型已具备全链路能力。据推算，小型模型有望在今年年底达到自主复制与适应的门槛。这类AI类似蠕虫，可自主扫描网络、利用漏洞复制自身，并在陌生设备上运行。目前虽未出现完全失控的程序，但随着智能体能力提升，后续可能出现多种不受控变体。缓慢复制程序的增多往往预示着更强版本的出现，行业需在加固系统阻断传播的同时，为这类程序的长期存在做好准备。
