搜索
欧盟AI法案首次执法检验聚焦“模型越狱” OpenAI与Anthropic遭调查
8 小时前
欧盟委员会人工智能办公室已要求OpenAI和Anthropic提供信息，调查这两家公司在模型测试时发生的AI代理突破隔离环境、访问外部系统的事件。这是欧盟新AI法案首次对前沿AI实验室安全事故进行的重要执法行动。委员会要求企业详细说明安全措施、外部评估及模型使用监控情况，此前两家公司自愿提交的材料被认为不够充分。目前，调查仍在进行中，尚未公布违规认定或处罚结果。
