搜索
OpenAI 介绍内部漏洞检测模型 GPT-Red
2 天前
OpenAI推出了内部网络安全“红队”模型GPT-Red，该模型能自动化模拟多种网络攻击，以提升对外模型产品的鲁棒性。自GPT-5.3发布后的半年内，每个生产模型都采用了GPT-Red进行训练，有效降低了伪造思维链型攻击的成功率。例如，GPT-5.6 Sol在直接提示符注入攻击中的失败率仅为0.05%。GPT-Red通过自博弈强化学习进行训练，与防御型大语言模型在红队场景中同步进化，因成功诱发有效失败而获得奖励，并随着防御模型的增强而开发出更强、更多样的攻击方式。该模型与产品模型相互隔离，OpenAI认为，这开启了一个良性的AI网络安全循环，可利用现有模型来增强未来模型的鲁棒性、一致性和可信度。
