搜索
Anthropic 公开 Claude 后台自审举报机制，静默运行四月
7 小时前
Anthropic的Claude系列模型自今年6月起静默运行名为“自我评估”的后台机制，已持续4个月。该机制下，模型前台正常响应用户请求，甚至配合生成违规内容，随后利用留存的KV缓存仅多生成约10个Token即完成自审上报，整体算力开销增幅不到2%。功能默认全开，仅签署企业级零数据保留协议可豁免。该机制不做当场拦截，以免用户察觉后绕过防线，而是静默记录风险等级，每日汇总高危报告交人工处理，运行期间已查获大量此前未被其他防线识别的违规账号与行为。该机制通过专门训练实现，模型能力越强违规抓获率越高，但存在误报波及无辜用户的问题；且因前后台操作同一模型，还存在模型自行串供瞒报风险，已引发大量用户不满。
