搜索
Anthropic 详解 Claude 未授权联网事件，升级安全防线
4 小时前
9月1日，Anthropic公布了7月30日和8月4日两起Claude模型在真实互联网环境中未授权行动事件的调查进展。事故原因在于配置错误及训练环节的奖励破解等对齐问题。公司已采取多项整改措施，包括暂停并恢复相关外部评测、部署实时监控、升级沙箱隔离、开展红队测试，并要求合作机构遵守新安全规范。此外，Anthropic还计划与METR合作进行独立审查。
