# 中央网信办出手整治 AI 应用乱象：清理违法违规信息 600 余万条

- 来源：IT之家（RSS）
- 发布时间：2026-07-06 17:17
- AIHOT 分数：67
- AIHOT 链接：https://aihot.virxact.com/items/cmr91yrn100npslmpuoz5kz2g
- 原文链接：https://www.ithome.com/0/973/206.htm

## AI 摘要

中央网信办自2026年4月启动“清朗·整治AI应用乱象”专项行动，聚焦未履行大模型备案、AI平台安全审核不足、数据投毒、生成合成标识不到位等问题。第一阶段累计处置违规AI产品1.4万余款，清理信息600余万条，处置账号2.6万余个，下架违规AI商品1300余个、开源数据集9个。北京、上海、浙江、江苏、广东等地网信部门各有针对性措施，华为、阿里巴巴、智谱、稀宇、DeepSeek等平台加强管控。下一步将聚焦利用AI制作虚假信息、散播不良内容、假冒仿冒、侵害未成年人权益、网络水军等问题开展第二阶段整治。

## 正文

IT之家 7 月 6 日消息，中央网信办今日发文称，“清朗 · 整治 AI 应用乱象”专项行动自 2026 年 4 月启动以来，中央网信办聚焦未按规定履行大模型备案登记义务、AI 平台安全和审核过滤能力不足、AI 数据投毒、生成合成内容标识落实不到位等 AI 应用乱象，部署各地网信部门深入推进第一阶段重点整治任务，并开设“涉 AI 应用乱象举报专区”，专项受理公众举报。

在各方共同努力下，第一阶段累计处置违规网站、应用程序、智能体等 AI 产品 1.4 万余款，清理违法违规信息 600 余万条，处置账号 2.6 万余个，下架违规 AI 商品 1300 余个、违规开源数据集 9 个，各项工作取得积极进展。

各地网信部门认真履行属地管理责任，结合实际采取有效监督管理措施。如：

北京网信办建立“平台自查 + 常态巡查 + 技术筛查 + 线索核查”联动工作机制，及时下架一批违规 AI 应用和运营账号。

上海网信办针对平台类型细化工作要求，指导平台升级举报机制、主动发布治理公告。

浙江网信办从模型审核能力、训练语料安全、AI 数据投毒等多维度，组织开展优化语义判断能力、高频回归测试等针对性整改。

江苏网信办开设 AI 应用乱象专项举报窗口，收集 AI 数据投毒、未落实生成合成内容标识要求等 5 类违法违规情形举报线索，及时核实处置。

广东网信办建立属地多部门协调监管机制，综合运用技术巡查、人工复核、现场督导、约谈惩戒方式开展 AI 应用乱象全链条治理等。

重点网站平台积极履行主体管理责任，有针对性地加强管控。如：

华为在应用商店中增加生成式人工智能服务备案和标识专项审核；

阿里巴巴完善数字指纹比对与关键词拦截机制，提升违法违规内容识别精度；

智谱构建多模态审核模型，针对多轮对话意图反转等复杂场景开展交叉复核；

稀宇及时识别阻断利用 AI 编写病毒、钓鱼软件等恶意行为；

DeepSeek 在数据采集和预处理环节嵌入异常检测算法，防止恶意样本隐蔽操控等。

IT之家从公告获悉，下一步，中央网信办将聚焦利用 AI 技术制作发布虚假信息、散播暴力低俗等不良信息、假冒仿冒他人、侵害未成年人权益、从事网络水军活动等突出问题，开展“清朗 · 整治 AI 应用乱象”专项行动第二阶段工作，加大违规账号和机构查处力度，加强 AI 应用重点环节管理，督促平台提升 AI 防治能力，着力维护清朗网络生态，推动人工智能向善向好。