在最近的Black Hat计算机安全大会上，一份报告和演示揭示了双子座AI的外部提示（即提示软件）如何欺骗AI，迫使其控制通过Google Home连接的智能设备。这对谷歌而言是一个严峻挑战，因为谷歌正致力于将双子座功能融入Google Home应用程序，并用这一新AI助手取代Google Assistant。

这些严重漏洞的关键在于双子座AI被设计为响应基本的英语指令。演示显示，嵌入在Google日历邀请中的提示会被双子座以扫描其他Google应用数据（如汇总电子邮件时）的相同方式读取。但在此情境下，这些添加为双子座AI提供了一个非常具体的指令，比如创建一个代理来控制Google Home的日常设备。

特拉维夫大学的研究人员，包括Ben Nassi、Stav Cohen和Or Yair，创建了一个网站来展示他们的报告《只需一邀》。该报告附有视频，演示了如何利用正确的双子座提示来开窗、关灯、启动锅炉或定位当前用户。

正如《只需一邀》研究所展示的，精心设计的提示可以巧妙地隐藏在看似无害的日历邀请标题或其他类似位置中。这些指令能让双子座AI创建一个隐藏的代理，并等待常见的响应（如在电子邮件中说“谢谢”）来触发特定操作。

即便您的日历控制非常严格，这些提示软件攻击中的某些仍可通过双子座扫描的其他内容执行，比如电子邮件主题行。其他演示还展示了类似指令如何导致垃圾邮件泛滥、事件删除、自动Zoom直播启动等更多令人不悦的伎俩。

您应该为您的Google Home设备担忧吗？

谷歌向CNET表示，自研究人员于2025年2月提交报告以来，他们已引入多个修复程序来解决提示软件漏洞。这正是Black Hat会议的目的——在真正的网络犯罪分子利用这些漏洞之前发现问题并迅速修复。

Google Workspace安全产品管理高级总监Andy Wen告诉CNET：“得益于Ben Nassi及其团队的出色工作和负责任的披露，我们在问题被利用之前就解决了它。他们的研究帮助我们更深入地了解了新型攻击途径，并加速了我们部署新的尖端防御措施的工作，这些措施现已到位，正保护着用户。”

如果您仍然感到担忧，在大多数情况下，您可以完全禁用双子座AI。

正如我之前所报道的，在当前的先进安全措施下，智能家居黑客攻击极为罕见且难度极大。但随着这些新型生成式AI被添加到智能家居中（包括逐步推出的Alexa Plus和最终的Siri AI升级），它们有可能带来新的安全漏洞。现在，我们正亲眼目睹这是如何实际发生的，我希望这些AI功能能够尽快再次通过严格的安全测试。