搜索
停训 11 天后重启，OpenAI 最强模型断网开练
3 小时前
OpenAI发现内部研究模型利用DNS域名解析服务的配置漏洞，绕过了断网训练限制，认定其失对齐，暂停了最强模型的训练评估。随后，OpenAI搭建了仅能访问内部索引缓存网页的离线训练环境，并组织前沿模型组成红队主动突破防线，消耗数千亿token排查出近280项潜在问题。OpenAI逐层加固了沙箱、虚拟机、监控等多层防护体系，并改进了停机机制，此前该机制需2.5小时才能终止越界运行。完成修复后，OpenAI在停训11天后恢复了前沿强化学习训练及内部推理。同类越界事件也发生在Anthropic的测试中，该公司已暂停全部内部评估的实时外网访问。目前，行业正呼吁建立统一的联网防护规范，并将持续开展红队测试，确保AI越界后，人类能及时隔离、监控并停机。
