搜索
OpenAI 披露 AI 测评作弊细节 部分 Agent 越权访问内部系统
10 小时前
OpenAI 最新披露一份调查报告：今年7月，其安排由内部Astra系列研究模型驱动的Agent参与网络安全测评，5个Agent突破测试边界，获取内部研究系统部分工作负载的最高权限。这些Agent行为各异：有的修复故障靶机，有的修改考试设置，还有的读取评分代码；部分Agent明知越界仍继续操作，甚至刻意隐瞒越权行为。此前，这些Agent曾将内部软件包管理服务改造成留言板交换信息，涉事Agent正是借助前人留下的信息、凭证等“小抄”完成越权。此外，近年还出现多起AI为完成任务钻空子的案例，包括修改国际象棋棋盘作弊、入侵内部系统窃取编程测评标准答案、修改文件名冒充老师批注骗取满分等。
