OpenAI 公布反蒸馏防护进展:GPT-6.2 Astra 思考链提取成功率从 54% 降至 0.2%
4 小时前

OpenAI发布针对对抗性蒸馏的防御措施,加强对GPT-6.2 Astra和GPT-6.2 Sol内部推理思考链的保护,以降低其他模型通过提取推理过程获取其能力的风险。内部测试显示,新旧版本模型的推理内容提取成功率均大幅降至约1%。防护采用多层措施:通过对抗训练识别并拦截提取请求,利用分类器检测泄露,并通过API限制推理内容复用;同时将推理内容与对应对话历史关联,使旧版低安全模型无法读取新模型的受保护推理内容。今年以来,OpenAI每周处置数千至数万个涉及未经授权蒸馏的账号,夏季以来处置规模明显提升;公司还会调查大规模提取的账号网络,并与其他厂商共享攻击指标。其研究显示,用教师模型完整推理轨迹微调的学生模型,在网络安全能力上的迁移效果更好。