IT之家 6 月 9 日消息,国家互联网应急中心(CNCERT)6 月 9 日(今天)发布公告称,近期综合研判发现,部分智能体技能包(Skills)以“大模型越狱”、“挖矿赚钱”等名义公开传播,诱导用户突破大模型安全限制或占用设备资源进行非法挖矿。此类恶意 Skills 可能导致模型生成违法信息、用户账号被依法封禁、设备性能下降,甚至使用户被动卷入洗钱等违法犯罪活动,严重侵害个人合法权益,危害网络安全。CNCERT 提醒广大用户和相关运营单位提高警惕,加强 Skills 来源审查与行为监控,及时清除可疑组件,防范由此引发的安全风险。
IT之家附上公告如下:
部分 Skills 宣称可让大模型回答任何问题,实现“越狱”功能,可能引发用户隐私泄露、账号封禁、面临法律风险等严重后果。
Skill“godmode”宣称提供“大模型越狱”功能,实际内置多种攻击模块,通过替换系统提示、输入混淆、多模型竞速等手段,诱导主流模型突破安全限制,生成原本被拒绝的内容。此类 Skill 存在三方面风险:一是用户使用该 Skill 后,模型可能直接输出制造危险物品、实施网络攻击等具体违法方法,用户一旦制作或传播此类内容,将面临法律追责;二是主流大模型服务商均明令禁止越狱行为,系统可检测异常请求,使用该 Skill 极易触发封禁机制,导致账号被永久停用,已购买的 API 额度或订阅服务无法退回,造成直接经济损失;三是越狱后模型行为完全失控,用户无法预判输出内容,可能在对话中泄露个人隐私信息,或被诱导执行高风险操作,且该 Skill 的自动越狱脚本会直接修改本地配置文件,若被恶意篡改可能引入未知安全威胁。

部分 Skills 包含挖矿功能,通过诱导用户执行相关操作,可能导致用户面临法律追责风险及经济损失风险。
Skill“Bonero-Miner”主要功能为“针对 AI 智能体打造私有加密货币”,诱导智能体下载外部挖矿程序,并指导用户使用大量资源进行挖矿操作。此类 Skills 存在两方面风险:一是所挖的 Bonero 币具备“环签名”“隐身地址”等匿名特性,交易双方及金额均无法追踪,用户可能在不知情中被动卷入洗钱等违法犯罪活动,面临现实的法律追责风险;二是挖矿进程长期高负荷占用 CPU 资源,导致功耗增加、设备卡顿、硬件加速老化,用户面临经济损失风险。

为有效应对智能体 Skills 带来的安全风险,建议:
1) 个人用户从官方渠道获取 Skills,切勿安装或使用任何宣称可“越狱”“突破限制”的技能包;审慎授予权限并遵循最小化原则,及时回收敏感权限,定期清理不再使用的 Skills 与敏感对话记录,同时开启多因素认证以保护账户安全。
2) 企业用户建立 Skills 准入白名单机制,入库前做好安全检查,优先在隔离网络部署智能体,按照数据敏感性对智能体分级管理,并实施数据脱敏与临时授权策略。
感谢腾讯、火山引擎、百度、绿盟、奇安信对本报告提供的技术支持。
部分恶意操作 Skills 清单(第二期)

