搜索
当 AI 幻觉开始操作电脑：深大、港科大提出 ECA，让 Agent 行动前先验证证据
19 小时前
深圳大学与香港科技大学的研究者提出了ECA（Evidence-Carrying Multimodal Agents）架构。该架构针对AI Agent因幻觉产生错误前提，进而引发错误执行的问题，设计了提出动作、独立验证器提供证据、门控程序核条件的模型。通过多通道证据交叉核验，ECA能够有效拦截伪装攻击。测试结果表明，该架构不仅能有效阻止不安全动作，还能在正常任务中表现良好，日常使用中多数正常操作可直接放行，耗时可控，减少了用户事后补救的麻烦。
