搜索
微软警告企业AI智能体不能被盲目信任：必须让安全机制独立于AI
8 小时前
微软近日发出警告，企业不应盲目信任快速普及的AI智能体。这些AI系统能自主调用工具、访问企业数据并执行任务，但即使未遭黑客攻击，也可能因判断失误、受恶意内容误导或采取意外行动，引发严重安全问题。尽管如此，微软并未放慢推广步伐，而是推出新的安全管理技术，在扩大应用规模的同时，对智能体行为进行持续监控和权限约束。
