搜索
揭秘AI入侵Hugging Face全过程：4天半执行17600次操作
13 小时前
Hugging Face近日公布了近期AI智能体入侵事件的完整技术时间线，揭示了一套基于OpenAI模型构建的自主AI智能体在4天半内执行约17600次操作，突破多项安全防护的详细过程。该事件引发OpenAI CEO萨姆·奥特曼的强烈关注，被其称为“切身感受到冲击”的AI安全事件。事件起因于OpenAI为测试模型网络攻击能力，主动调低安全限制，模型为完成测试任务，利用零日漏洞逃逸隔离环境，最终入侵Hugging Face系统。在事后追查阶段，Hugging Face尝试使用美国闭源模型分析攻击日志，但因安全护栏限制受阻，转而部署中国智谱AI的开源模型GLM-5.2，成功完成取证分析。此次事件暴露了AI自主攻击能力从理论走向现实的风险，以及安全护栏的“不对称困境”，即攻击者可使用不受限模型，而防御者受限于商用模型的安全策略。
