搜索
微软开源AI代理运行时安全工具包
7 小时前
4月2日，微软推出全新开源软件项目Agent Governance Toolkit，旨在为自主AI代理领域构建运行时安全治理体系。该工具包采用MIT许可证开源，面向希望在生产环境中更安全可控地部署智能体应用的开发者与企业。微软称，这是首个覆盖OWASP去年提出的全部十项‘代理式AI风险’的工具集，包括目标劫持、工具误用、身份滥用等，旨在解决大模型驱动智能体执行复杂任务时可能出现的系统性安全问题。工具包支持Python、Rust、TypeScript、Go和.NET等多种语言生态，提供统一的治理能力。其架构由多个模块组成：Agent OS作为策略引擎，在代理行为执行前进行拦截和策略评估；Agent Mesh确保代理间安全通信；Agent Runtime实现动态执行环境隔离；Agent SRE提供运行时安全防护与稳定性保障；Agent Compliance支持自动化合规验证与等级评定；Agent Marketplace管理插件生命周期，控制供应链风险；Agent Lightning则面向强化学习等训练场景提供治理能力。项目代码已托管在GitHub仓库，开发者可参与试用与反馈。
