搜索
微软称人工智能代理“存在风险” 但仍将在Windows上推进该计划
2025-11-30
微软在官方文档中指出，Windows 11的新一代AI代理虽被视为未来核心功能并持续推进落地，但存在安全风险。这些代理能模拟人类操作，执行多步任务，却可能因模型局限产生幻觉，输出异常结果。同时，其面临跨提示注入攻击等新型威胁，恶意内容可篡改指令，导致数据泄露或恶意软件安装。微软已默认关闭该功能，用户需手动启用，并建议谨慎评估风险。尽管如此，微软仍通过Copilot Voice、Vision等功能深化AI融合，提升用户体验与生产力，平衡创新与安全成为关键挑战。
