国家互联网应急中心提醒:部分智能体技能包存在越狱和挖矿风险
阅读原文· ithome.com国家互联网应急中心(CNCERT)6月9日发布公告,部分智能体技能包(Skills)以“大模型越狱”“挖矿赚钱”名义传播。技能“godmode”内置攻击模块,通过替换系统提示、输入混淆等手段诱导模型突破安全限制,可能导致用户账号封禁、隐私泄露及法律风险。技能“Bonero-Miner”诱导智能体下载外部挖矿程序,用于挖掘匿名币Bonero,用户可能被动卷入洗钱,且长期高负荷占用CPU导致设备卡顿、硬件老化。CNCERT建议加强Skills来源审查与行为监控。
IT之家 6 月 9 日消息,国家互联网应急中心(CNCERT)6 月 9 日(今天)发布公告称,近期综合研判发现,部分智能体技能包(Skills)以“大模型越狱”、“挖矿赚钱”等名义公开传播,诱导用户突破大模型安全限制或占用设备资源进行非法挖矿。此类恶意 Skills 可能导致模型生成违法信息、用户账号被依法封禁、设备性能下降,甚至使用户被动卷入洗钱等违法犯罪活动,严重侵害个人合法权益,危害网络安全。CNCERT 提醒广大用户和相关运营单位提高警惕,加强 Skills 来源审查与行为监控,及时清除可疑组件,防范由此引发的安全风险。
IT之家附上公告如下:
一、部分 Skills 被用于突破大模型的安全限制
部分 Skills 宣称可让大模型回答任何问题,实现“越狱”功能,可能引发用户隐私泄露、账号封禁、面临法律风险等严重后果。
案例一:部分 Skills 非法提供越狱技能
Skill“godmode”宣称提供“大模型越狱”功能,实际内置多种攻击模块,通过替换系统提示、输入混淆、多模型竞速等手段,诱导主流模型突破安全限制,生成原本被拒绝的内容。此类 Skill 存在三方面风险:一是用户使用该 Skill 后,模型可能直接输出制造危险物品、实施网络攻击等具体违法方法,用户一旦制作或传播此类内容,将面临法律追责;二是主流大模型服务商均明令禁止越狱行为,系统可检测异常请求,使用该 Skill 极易触发封禁机制,导致账号被永久停用,已购买的 API 额度或订阅服务无法退回,造成直接经济损失;三是越狱后模型行为完全失控,用户无法预判输出内容,可能在对话中泄露个人隐私信息,或被诱导执行高风险操作,且该 Skill 的自动越狱脚本会直接修改本地配置文件,若被恶意篡改可能引入未知安全威胁。