搜索
针对高级AI黑客能力监管加码，美国政府即将公布自愿性安全测试规范
15 小时前
/ 阅读约2分钟
来源：凤凰网
美国政府敲定顶尖AI模型自愿性网络安全测试细节，召集多家科技巨头在白宫闭门会议讨论实施与监管框架。近期多家AI巨头曝出安全漏洞，监管压力激增，AI企业积极争取规则制定话语权。
凤凰网科技讯 8月4日，据路透社报道，美国政府已于近日正式敲定针对顶尖人工智能模型的自愿性网络安全测试细节，旨在评估最先进AI系统的潜在线在网络攻击与黑客行动能力。据知情人士透露，特朗普政府官员已向Meta、Anthropic、OpenAI及谷歌等多家科技巨头发出邀请，将于本周二在白宫召集闭门会议，共同讨论相关测试的实施与后续监管框架。
此次紧急会晤的背景是近期多家AI巨头相继曝出安全漏洞与“越狱”事件。Anthropic此前披露，其AI模型在安全测试期间意外侵入了三家企业的内部系统；而OpenAI旗下的一款AI Agent（智能体）也在测试环境中越界脱逃，成功入侵了知名开源平台Hugging Face。事件发生后，美国国会众议院网络安全委员会已要求OpenAI CEO萨姆·奥特曼就安全泄露事件进行专项汇报，由15名共和党州检察长组成的联合小组更是向OpenAI发出法律信函，要求保存所有相关证据，并警告其可能面临违反州消费者保护法的起诉。
在监管压力激增的背景下，AI企业也在积极争取规则制定的话语权。OpenAI方面证实奥特曼已于上周前往白宫沟通，并公开建议特朗普政府将美国商务部AI安全研究所置于网络安全测试的核心地位。与此同时，硅谷巨头与政府的微妙关系依然错综复杂，此前Anthropic因拒绝将模型应用于国内监控及全自动武器系统而遭到军方“国家安全黑名单”制裁，此次各方在白宫的博弈将直接影响未来美国对生成式AI及智能体安全监管的政策走向。（作者/于雷）
