国家安全部发布使用"AI 中转站"风险提示:警惕个人数据泄露
阅读原文· ithome.com国家安全部6月13日发布专项风险提示,警惕“AI 中转站”泄露个人数据。“AI 中转站”是介于用户与AI模型官方API之间的第三方平台,运营主体不明、无备案,用户数据无安全保障。风险包括:数据被截留倒卖导致隐私泄露;使用低配模型冒充高端模型致结果失真;暗藏后门植入恶意代码远程窃取账号;未取得数据出境资质,擅自将数据传至境外服务器,可能造成商业机密乃至国家秘密外泄。
IT之家 6 月 13 日消息,央视新闻官方公众号今天(6 月 13 日)发布博文,称国家安全部发布针对性专项风险提示,让用户警惕“AI 中转站”泄露个人数据风险。
IT之家援引博文介绍,“AI 中转站”是介于用户和 AI 模型厂商官方服务之间的代理层,它把各家 AI 模型厂商的应用程序编程接口(API)统一整合到一个平台,再提供给用户。
“AI 中转站”本质是衔接普通用户与海外 AI 大模型的第三方中间服务平台,专门解决国内用户使用海外 AI 大模型的各类壁垒问题。
不过专家表示,“AI 中转站”游走在网络灰色地带,平台公示信息中无任何经营主体相关介绍,经营者全程隐匿身份,无公开备案信息、无明确运营主体。
由于运营主体不明、监管缺失,用户在使用平台服务时提交的各类数据完全没有安全保障,使用“AI 中转站”,等同于数据“裸奔”。
专家介绍,用户数据一旦上传到这些中转站之后,个人隐私、重要商业数据等都会通过中转站流向不同的大模型公司,同时中转站也会保存一份数据,从而面临泄露风险和隐患。
针对此类平台,国家安全部明确提醒,部分“AI 中转站”存在非法倒卖用户数据的牟利行为,甚至暗藏程序后门,长期监控用户设备、持续盗取各类数据:
数据裸奔,隐私泄露。“AI 中转站”作为第三方端口,会将用户提交的数据留存至服务器。部分“AI 中转站”缺乏正规数据加密与管控机制,有的甚至私自截留用户数据,倒卖给其他大模型厂商用于系统训练,造成用户隐私泄露。
模型缩水,结果失真。部分“AI 中转站”为压缩成本、获取更多利润,使用低配模型冒充高端模型,缩减算力供应、关闭校验功能,导致模型输出内容偏差大、逻辑性差,容易误导用户决策。