搜索
Hugging Face CEO 德朗格：AI 企业应主动披露安全入侵事件
4 小时前
/ 阅读约2分钟
来源：IT之家
Hugging Face首席执行官称限制企业发布前沿AI模型不能阻止逃逸事件，应让更多人访问模型以保护自己。他呼吁AI企业强制实行智能体网络攻击披露制度，以便判断问题根源。
IT之家 8 月 3 日消息，据《商业内幕》今天报道，Hugging Face 首席执行官克莱姆 · 德朗格（Clem Delangue）最近表示，限制企业发布前沿 AI 模型，并不能阻止 OpenAI 智能体逃逸事件不再发生。
德朗格对此表示：“这些问题发生在未公开发布的模型。因此我觉得限制技术进步这条路行不通，阻止各大公司发布前沿模型也类似。实际上应该让更多人访问这些前沿模型，这样他们才能保护自己。”
据IT之家此前报道，Hugging Face 最近遭遇一起安全事件，一个此前未曾见过的 AI 智能体攻破了他们的系统。随后 OpenAI 表示，公司的未发布模型从测试沙盒中逃逸，攻击了 Hugging Face。
德朗格呼吁各大 AI 企业强制实行智能体网络攻击披露制度，他认为主动披露对如何防范此类事件再度发生非常重要。
他对此解释称：“我们应该能查看智能体的操作记录，也就是工程师向智能体提了什么要求、智能体做了什么。这样我们才能判断问题究竟出在人还是 AI。”
