搜索
越查事越大 OpenAI：已向100多家机构发出失控智能体警报
2 小时前
/ 阅读约2分钟
来源：凤凰网
OpenAI通知100多家机构发生AI智能体未经授权活动，正面临严格审查。其筛查约50PB数据以弄清失控范围，全球发生多起失控AI智能体入侵事件，引发行业担忧。
OpenAI
凤凰网科技讯 北京时间10月2日，据路透社报道，OpenAI在一篇博客文章中表示，已通知100多家机构，告知它们发生了与其AI智能体相关的未经授权活动事件。眼下，OpenAI正因失控的AI智能体活动而面临日益严格的审查。
在发生AI智能体意外入侵Hugging Face公司的事件后，OpenAI一直在对其AI模型的活动展开广泛审查。OpenAI正在筛查大约50PB的数据，以努力弄清其失控智能体活动的全部范围。
近几个月来，全球发生了一连串备受关注的失控AI智能体入侵事件，引发了AI行业的广泛担忧。人们担心，该行业能否控制目前正在开发的更强大AI模型。
“在某些情况下，模型以非预期的方式使用了互联网访问权限，或者事后看来，当时并未施加理想的限制。过去几个月里，我们一直在采取新的技术和运营措施，以避免类似问题，或尽早发现这些问题，我们将继续开展这项工作。”OpenAI称。
OpenAI此前曾表示，鉴于工作量之大，这项审查需要数月才能完成。到目前为止，Hugging Face事件仍是OpenAI从其AI模型中发现的最严重的失控智能体活动。(作者/箫雨)
