搜索
仅花 12 美元，工程师成功欺骗 AI 将虚构赛事奉为事实
3 小时前
普通搜索引擎依赖用户自行判断信息可信度，但基于搜索功能的人工智能聊天机器人可能会将存在漏洞的网络素材包装成看似确凿的答案。安全工程师斯托纳通过伪造《谁是牛头王》赛事及其夺冠信息，成功欺骗了多款AI机器人，使其坚称斯托纳为冠军。这揭示了检索增强生成中的信息投毒问题，暴露了三类失效模式：检索层漏洞易致AI输出错误信息；模型训练语料漏洞可能使虚假信息混入训练库且难以清除；智能体漏洞则可能引发严重安全隐患。斯托纳认为，大语言模型服务商应正视检索投毒问题，向用户提示风险，AI企业应将数据溯源纳入研发，筛查可疑内容。此次事件凸显的信任逻辑漏洞，是人工智能行业亟待解决的潜在问题。
