搜索
遭OpenAI模型入侵 AI公司CEO：需强制披露网络攻击 推广开源
3 小时前
/ 阅读约2分钟
来源：凤凰网
Hugging Face CEO呼吁强制披露AI网络攻击事件，提高透明度以防止类似事件。他强调应让更多人接触技术以保护自己，并指出开源模型在抵御攻击中的重要性。
德朗格
凤凰网科技讯 北京时间8月3日，据《商业内幕》报道，在遭到OpenAI失控模型的入侵后，AI公司Hugging Face CEO克莱芒·德朗格(Clem Delangue)表示，需要强制披露AI网络攻击事件。
德朗格在周日播出的CBS采访中表示，想要阻止像OpenAI那样的黑客攻击，不能靠限制强大AI模型的发布。
“这些问题发生在未发布的模型上。所以我认为问题不在于限制技术进展或阻止公司发布这些模型，”他表示，“事实恰恰相反。应该让更多人能够接触到这些技术，这样他们才能保护自己。”
德朗格呼吁对“AI智能体网络攻击进行强制披露”。他说，只有提高透明度，所有人才能了解并防止类似事件的发生。“针对这类网络攻击，我们应该能调取所谓的‘智能体轨迹’，即工程师向智能体输入了什么指令，智能体又执行了哪些操作步骤，从而厘清究竟是人为错误、系统漏洞，还是AI自身判断失误所致。”德朗格称。
他还补充说，确保网络攻击在美国法律下仍然属于违法行为非常重要，这样才能避免未来出现“网络攻击大规模爆发”的情况。
OpenAI失控模型入侵Hugging Face的事件，为开源模型社区的支持者带来了一场重大胜利。开源模型是指其架构和训练代码可供任何人免费使用或修改的模型。
Hugging Face表示，他们使用了智谱AI的开源模型GLM 5.2，分析了超过1.7万条日志，协助抵御了来自OpenAI的攻击。
“我们是用开源模型来保护自己的。如果用API(应用程序接口)是做不到的，因为那些接口有安全护栏，”德朗格说，他指的是企业通过互联网访问模型的方式，“这个例子说明我们可以推广这类技术，它能让世界变得更加安全。”(作者/箫雨)
