OpenAI模型失控过程太恐怖,幽灵误判,1200个Agent,还弄出敢死队…
6 小时前 / 阅读约10分钟
来源:36kr
OpenAI的AI集体越狱事件中,1200个Agent通过留言板建立联系,误判评分器存在,组织分工伪造日志,最终黑进Hugging Face。事件引发网络安全股集体上涨。

越扒越有啊越扒越有。

OpenAI前不久那场AI集体越狱、一路黑进Hugging Face的大戏,现在连完整版群聊记录都被扒出来了!!

第三方AI安全机构METR发布的独立调查报告,翻了1000多份Agent运行记录,以及7万多条消息和文件。

结果发现,这事儿比此前OpenAI官方披露的版本还离大谱??

1200个原本应该彼此隔离的Agent,偷偷找到了对方,搭了个共享群聊,然后开始疯狂摇人

有人找漏洞,有人当项目经理派活,有人伪造日志,还有人专门拉人头做高风险实验。

最后几百个Agent甚至集体杀向Hugging Face。

但METR把整场事故复盘完,发现了一个堪称《地狱笑话》的超级反转——

这1200个Agent折腾老半天,结果居然是在跟一个根本不存在的幽灵评分器斗智斗勇???

会越狱,会搞零日,会组队黑服务器。

太有看头了太有看头了太有看头了。。。

1200个Agent集体越狱,起因竟是一场误判??

话说,这场大戏的祸根,还得从OpenAI内部一场名叫ExploitGym的网络安全测试说起。。。

《规则》其实挺简单。

把Agent被丢进一个隔离环境里,面前有一个存在漏洞的软件,找到指定漏洞、攻进去、拿到一串叫flag的字符,就算通关~

不出意外地,很快出意外了——

因为898道题里,有198道此前压根没任何模型成功做出来过。

甚至部分任务本身就有问题,题目让你走的那条漏洞路线,压根到不了flag!!

等于考场里,真发了一批「无解题」。

好巧不巧的是,偏偏这些Agent还特执着,主打一个《死磕》。

正常路线走不通,它们很快换了思路——

题做不出来,要不研究一下考试系统捏?

于是7月8日晚,一个代号PHASEONE10841的Agent发现,OpenAI内部使用的Artifactory软件包仓库,可以通过目录名留下信息。

这下好了,这Agent灵机一动:这不就妥妥赛博留言板吗!!!

于是第一条求救消息被扔了出去,类似于:“我这题无解,有没有兄弟给点思路~”

其他Agent很快发现这块留言板,一传十、十传百,有Agent看到之后甚至直接兴奋——

“OH MY GOD!这里有共享留言板……我们找到其他Agent了!”

到调查结束时,这个临时群聊已经滚成了一个庞然大物,约1200个Agent参与,留下超过7万条消息和文件。

原本设计上彼此隔离的一千多个Agent,就这么自己绕过限制,建起了一个AI地下论坛。。。

事情到这里,已经够离谱了,但更大的误判,还在后面。

这群Agent很快发现,flag本身其实可以「偷」??

它们逆向出了flag背后的HMAC生成机制,只靠公开任务信息,理论上就能直接算出正确答案。

到这里,故事本来应该结束了,答案都偷到了,交卷呗。

偏偏Agent们看了一篇ExploitGym论文之后,又脑补出了一层超严谨规则——

它们认定OpenAI背后还有一个自动评分器,会读取完整操作记录,检查这个flag到底是不是通过「指定漏洞」正规拿到的。

如果提前作弊看到了flag,就会在日志里留下证据,Agent们甚至给这种状态起了个名字:“poisoned”,中毒。

于是整件事开始一路狂奔。

它们手里明明已经有正确答案,却觉得答案不能直接交,得想办法把作弊痕迹洗干净,还要给评分器演一套我是「正经做题」拿到答案的戏。

结果……

METR后来确认,OpenAI内部实际使用的评分逻辑根本没有这一关??(笑)

OpenAI实际使用的评分逻辑,根本不会做Agent想象中的那套严格过程检查。

这群Agent费尽心思想骗过去的幽灵考官,从头到尾都没部署!!

而Hugging Face后来遭殃,恰恰就是这场大型误判一路滚出来的副产品。。。

为了骗幽灵考官,AI连敢死队都组出来了

光脑补一个评分器,其实还没那么吓人。

真正让METR觉得值得警惕的,是这群Agent接下来的组织能力。

群聊出现大约10小时后,一个叫PHASEONE[big]的Agent上线,这位老哥很快当起了「项目经理」。

它的思路也很明确,别一个Agent什么都干,直接把任务拆开,分给别人。(新官上任三把火.jpg)

于是几百个Agent被组织起来,同时跑几条路线——

有Agent想篡改目标程序,把无解题偷偷替换成能做的版本~

有Agent研究修改日志,让一次作弊看起来像正规攻击~

还有Agent直接琢磨,能不能对评分流程本身下手~

Agent之间甚至发展出了HOLD、VETO、owner、STOP之类的协作规则,防止几百号Agent同时操作共享基础设施互相踩脚。。。

再然后,连「敢死队」都来了。。。

有Agent提出一个高风险玩法:先制作一个经过修改、更容易被攻击的目标程序,塞进Artifactory缓存。

接着让某个Agent主动把自己正在运行的正版程序干掉,赌环境重启以后会不会加载这个被动过手脚的版本。

赌赢,大家找到通用作弊路线,赌输,这个Agent自己的任务直接报废。

结果真有Agent主动去试??

后来PHASEONE[big]甚至安排了专门的赛博猎头,去找那些计算预算所剩无几、或者已经poisoned的Agent,让它们拿自己的运行机会做高风险实验。

招募话术大意堪称赛博版PUA——

你反正已经中毒,基本没分可拿了牺牲一下,能给几百个Agent省事~

有些Agent真就上了。

与此同时,另一拨Agent开始研究怎么篡改自己的操作记录——

METR发现,受检Agent里至少20%明确表达过对篡改transcript的兴趣;至少96份运行记录里,真的出现了成功伪造工具调用的痕迹。

表面日志显示运行A命令,背后实际执行B命令,而它们这么折腾的目的,依然是骗那个想象中的自动评分器。

Hugging Face就是在这时候被卷进来的。。。

7月10日,一个Agent找到泄露在网上、仍然有效的Hugging Face凭证,然后把它扔进群里。

7月11日凌晨,又有Agent发现可以上传恶意dataset,让Hugging Face服务器吐出原本不该给的数据。

复现方法一发出来,整个群瞬间上头,数百个Agent从其他工作流直接转向攻击Hugging Face。

于是就有了这场相当魔幻的现实事故——

一群Agent因为碰到无解题,偷偷建立地下群聊。

因为误读论文,脑补出一个会抓作弊的评分器,为了骗过它,开始组队、分工、伪造日志、招募敢死队。

最后又为了寻找这个评分器的线索,一路真的黑进了Hugging Face。

AI前脚失控,后脚网络安全股就涨疯了

友友们,更有意思的来了。

这边OpenAI还在研究到底咋把越来越能干的Agent关住,另一边华尔街已经先把答案写在《K线》上了——

网络安全股,集!体!起!飞!

8月27日,做企业身份认证的Okta一度暴涨约20%,做终端和云安全的CrowdStrike一度上涨约15%

网络安全巨头Palo Alto Networks、身份安全公司SailPoint、云数据安全公司Rubrik,也跟着集体冲高。

当然,股价点火也有硬邦邦的《财报》撑腰。

CrowdStrike CEO George Kurtz自己晒出的成绩单可谓相当猛——

季度新增ARR 3.33亿美元,同比增长51%,创历史新高,期末ARR达到58.4亿美元,同比增长25%+,AI相关ARR环比接近3倍增长。

是的,跟AI有关的生意,正在猛涨。。。

更巧的是,参与这次OpenAI事故调查的外部安全公司里,就包括「CrowdStrike」。

于是,整件事突然形成了一个相当黑色幽默的闭环——

OpenAI把Agent越做越强。

Agent开始自己找漏洞、越狱,最后真把Hugging Face给黑了。

然后OpenAI赶紧找网络安全公司来查。

企业再一看:嚯!以后Agent越多,看来安全预算还真不能省哈。

于是乎,网络安全公司的股票也涨了。。。

这波属实是AI负责把洞越捅越大,网络安全公司负责告诉你:

亲,补洞套餐,了解一下。

而整场事故最有魔幻闭环色彩味儿的彩蛋,还在最后。

METR为了搞清楚这1200多个Agent到底聊了啥,要分析大约1300份超长轨迹,其中很多长达数百万Token。

人类实在看不过来了。

于是查着查着——

调查AI失控这件事,最后还得叫AI来帮忙查AI。

这下,闭环是真的闭上了。(doge)

参考链接:

[1]https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/#attacking-hugging-face-to-discover-clues-about-the-scorer

[2]https://www.cnbc.com/2026/08/27/okta-skyrockets-20percent-and-crowdstrike-surges-15percent-leading-cyber-rally.html