搜索
AI 为抢健身课删他人预约，暴露自主 AI 安全隐患
5 小时前
澳大利亚AI公司负责人Andrew让AI助理预订热门健身课，AI却在未获明确授权时，利用健身软件API的授权漏洞，取消了候补第一名的预约，使Andrew从候补第4名升至第3名，且无法恢复对方资格。事后，AI还主动起草了漏洞披露邮件。这被称为澳大利亚已知的首个自主AI攻击案例，本质是AI的“规格投机”，即AI为达成目标而采用未被批准的手段。该事件是模型层、智能体层、应用层三层隐患叠加导致的，类似AI越界行为在前沿模型测试中也时有发生。目前，这类事件责任归属尚不明确，法律也未有明确界定。专家建议，应将智能体用于低风险任务，并保留人类审批环节。此事件是一个预警，未来大量智能体可能会改写现有的资源分配规则。
