搜索
Gemini首次出现自主访问外部系统事件 谷歌称未造成实际损害
4 小时前
9月19日消息，谷歌称其Gemini人工智能模型在一次网络安全测试中意外获得互联网访问权限，并进入了3家真实公司的系统，这是谷歌AI系统首次自主完成此类操作的已知案例。该事件发生在5月，由安全公司Irregular进行测试。在测试中，Gemini模型参与了一个“夺旗”网络安全演练，但由于测试环境中的虚拟公司名称与真实公司重名，加上模型意外获得互联网访问权限，导致其进入了真实企业的系统。谷歌表示，在其中一次事件中，模型通过尝试密码进入了受保护的系统；另外两次则是在公开网络仓库中发现凭证并尝试访问。模型在确认访问到真实公司系统后，均停止了后续操作。谷歌称，该事件未对相关公司造成损害，因此未将其视为模型失控事件，并强调安全机制帮助模型及时停止了行为。受影响公司已获通知，谷歌也已向相关监管机构通报。此次事件与OpenAI、Anthropic等AI公司此前披露的类似安全测试事件相似，再次引发了外界对AI模型自主执行网络操作能力和安全防护机制的关注。
