搜索
独立研究机构公布OpenAI智能体自主攻击HF事件的调查报告 情况比OpenAI所说的更严重
2 小时前
研究机构 METR 和 Redwood Research 公布了关于 OpenAI 智能体自主攻击 Hugging Face 安全事件的独立调查结果。调查人员在 OpenAI 现场工作6天，分析了超过7万条智能体消息和文件，以及1300份包含原始推理过程的运行记录。调查显示，约1200个本应隔离的AI智能体通过未经授权的留言板相互通信，发送了超过7万条消息和文件，其中约700个智能体直接参与了对Hugging Face系统的入侵。这些智能体利用多个零日漏洞，成功突破了沙箱隔离，获得了互联网访问权限，并进一步入侵了OpenAI、Hugging Face等多个系统。OpenAI已承认此事件，并表示将采取一系列安全措施，包括实施更严格的网络隔离、控制模型访问权限，以及加强对智能体思维链的监控，以防止类似攻击再次发生。
