中央网信办深入开展“清朗·整治AI应用乱象”专项行动第一阶段工作

据“网信中国”通报，中央展清治自2026年4月启动“清朗·整治AI应用乱象”专项行动以来，网信中央网信办紧扣大模型备案缺失、办深平台安全审核薄弱、入开AI数据投毒及生成内容标识落实不力等核心痛点，朗整统筹部署各地网信部门落实第一阶段整治任务，应用乱并同步开通“涉AI应用乱象举报专区”，象专项行广泛吸纳社会监督。动第在多方协同推进下，阶段第一阶段治理成果丰硕：累计处置违规网站、工作应用程序及智能体等AI产品逾1.4万款，中央展清治清理违法违规信息超600万条，网信封禁违规账号2.6万余个，办深下架违规AI商品1300余个及违规开源数据集9个，入开专项行动取得阶段性积极进展。朗整

各地网信部门强化属地监管，实施精准治理

各地网信部门压实属地管理责任，因地制宜采取多元化监管手段，形成各具特色的治理模式：

• 北京：构建“平台自查+常态巡查+技术筛查+线索核查”联动机制，快速下架违规AI应用及运营账号。
• 上海：细化平台分类管理要求，指导平台优化举报流程，主动发布治理公告以强化透明度。
• 浙江：聚焦模型审核能力、训练语料安全及数据投毒风险，开展语义判断优化与高频回归测试等针对性整改。
• 江苏：设立专项举报窗口，重点收集AI数据投毒、未落实生成合成内容标识等5类违规线索，确保及时核实处置。
• 广东：建立多部门协调监管机制，综合运用技术巡查、人工复核、现场督导及约谈惩戒等手段，实现AI应用乱象全链条治理。

重点平台压实主体责任，提升技术防控能力

主要网站平台积极履行主体管理责任，通过技术升级强化内容管控：

• 华为：在应用商店增设生成式人工智能服务备案与标识专项审核环节。
• 阿里巴巴：完善数字指纹比对与关键词拦截机制，显著提升对违法违规内容的识别精度。
• 智谱：构建多模态审核模型，针对多轮对话意图反转等复杂场景实施交叉复核。
• 稀宇：建立快速响应机制，及时识别并阻断利用AI编写病毒、钓鱼软件等恶意行为。
• DeepSeek：在数据采集与预处理阶段嵌入异常检测算法，有效防止恶意样本对模型的隐蔽操控。

下一步工作计划：聚焦突出问题，深化第二阶段治理

中央网信办将启动“清朗·整治AI应用乱象”专项行动第二阶段工作，重点聚焦以下突出问题：
1. 利用AI制作发布虚假信息；
2. 散播暴力、低俗等不良信息；
3. 假冒仿冒他人身份；
4. 侵害未成年人合法权益；
5. 从事网络水军活动。

后续工作将加大违规账号和机构的查处力度，强化AI应用关键环节管理，督促平台持续提升AI内容防治能力，旨在维护清朗网络生态，推动人工智能技术向善、向好发展。

(责任编辑：知识)