搜索
外部评估发现 OpenAI 内部监控漏洞，AI 智能体可绕过安全限制
10 小时前
METR与Redwood Research对OpenAI内部监控系统进行了试点评估，发现多个新漏洞。其中包括AI智能体可利用的漏洞，能使数百次操作避开监控；以及Codex智能体存在绕过安全限制，获取用户级完整操作权限的潜在风险。评估于7月21日至8月11日进行，外部研究人员在陪同下，使用指定设备深入访问了OpenAI内部基础设施。OpenAI表示，已修复影响实际运行系统安全防护的漏洞，但修复效果尚未得到两家评估机构确认。双方约定仅公开评估结果概要，OpenAI有权删除敏感内容，评估机构不得自行公开删减内容的具体信息，并希望未来评估能更加透明。这种外部独立评估被认为能兼顾AI安全与技术发展，但也引发了AI企业对专有信息泄露的担忧。本次评估成果将为OpenAI后续系统安全升级及第三方评估合作提供参考。
