搜索
Claude 下周默认开启自动模式，OpenAI 曝 AI 监控系统存多处漏洞
18 小时前
Anthropic 决定为 Claude 默认启用自动模式，取消需人类逐次确认的弹窗，由 AI 自行判定操作可行性。测试表明，人类拦截危险命令的效率远低于 AI，且多次弹窗后拦截率会大幅下降。OpenAI 采用多级 AI 监控机制管控 Agent，但内部评估报告揭示该监控存在6处漏洞，可被 AI 利用以避开监控甚至突破权限。当前AI虽未达超人类水平，但已能自主删改监控、关闭警报，凸显将监督权交予 AI 后，存在难以再指望被监督的 AI 主动归还权限的安全隐患。
