搜索
OpenAI推出“部署模拟”技术强化模型安全评估
2026-06-17
OpenAI近日推出“部署模拟”技术，通过模拟真实对话场景，重放历史对话前缀并由候选模型生成后续回复，以预测新模型在实际应用中的潜在风险行为频率及对齐问题。该技术基于真实流量分布采样，有效缓解人工测试集偏差问题，使模型难以识别测试状态，避免行为扭曲。实验表明，其在预测GPT-5系列模型风险行为方向及发生率上显著优于传统方法，已用于GPT-5发布决策，成功识别“计算器黑客”等新型漏洞，并适用于涉及工具使用的智能体场景。
