为规范AI服务和应用，促进行业健康有序发展，保障公民合法权益，近日，中央网信办印发通知，在全国范围内部署开展为期4个月的清朗·整治AI应用乱象专项行动。

中央网信办有关负责人表示，本次专项行动分两个阶段开展。第一阶段为清朗·AI服务典型违规问题专项治理行动，重点整治未按规定履行大模型备案登记义务、安全审核能力不足、大模型训练语料安全、AI数据投毒、生成合成内容标识落实不到位等问题，强化AI技术源头治理。第二阶段为清朗·整治AI信息内容乱象专项行动，聚焦利用AI技术生成数字泔水、制作发布虚假信息、散播暴力低俗等不良信息、假冒仿冒他人、侵害未成年人权益、从事网络水军活动等问题，坚决清理违法不良信息，依法处置处罚违规账号、MCN机构和网站平台。

第一阶段：整治7类突出问题

一是未按规定履行大模型备案登记义务。未按照《生成式人工智能服务管理暂行办法》规定，向网信部门履行备案登记程序，存在应备未备情形。

二是AI平台安全和审核过滤能力不足。模型底层安全能力缺失，缺乏安全围栏机制、审核过滤能力不足，生成违法不良信息。

三是大模型训练语料安全问题。训练语料审核把关不严，训练数据来源合规性存在问题，高质量语料缺乏。

四是AI数据投毒问题。通过篡改训练语料、伪造权威数据、使用GEO技术恶意营销等方式实施AI数据投毒。在模型生成回答过程中，对引用信源缺乏交叉验证和风险提示机制。

五是生成合成内容标识落实不到位。未落实《人工智能生成合成内容标识办法》及配套强制性标准要求，存在教授去除AI标识的教程信息、提供违规去标识工具服务。

六是滥用AI技术开展违法违规活动。借助AI技术实施网络攻击行为；未经他人授权利用AI技术提供换脸拟声服务；利用智能体技术窃取用户数据或账户密钥。

七是开源模型安全管理不到位。开源社区缺乏身份认证和安全管理机制，对上传的数据集、模型代码等内容未建立有效审核和应急处置机制。

第二阶段：整治7类突出问题

一是利用AI魔改经典、生成数字泔水。歪曲解构优秀传统文化，批量生成发布逻辑混乱、价值空洞的数字泔水类内容。

二是制作发布虚假不实信息。生成合成涉时事政治、公共政策等领域谣言信息，假冒党政军机关发布虚假公告或假新闻。

三是假冒仿冒他人。利用AI换脸换声假冒仿冒公众人物发布不实言论，未经授权生成合成与公众人物的合影等图片视频。

四是制作发布暴力低俗等不良信息。制作发布暴力血腥场景或低俗擦边图片视频。

五是侵害未成年人权益。生成合成伤害未成年人形象的内容，生成合成与年龄特点不符的违规内容。

六是利用AI托管从事网络水军活动。通过AI托管技术运营账号，批量生成发布低质同质文案，使用AI群控软件刷量控评。

七是AI产品服务和应用程序违规。制作和传播仿冒、套壳AI网站和应用程序，提供色情陪聊、一键脱衣、AI算命等违规功能服务。

中央网信办有关负责人强调，各地网信部门要充分认识专项行动对于推动AI应用规范有序发展、维护网民合法权益的重要意义，切实履行属地管理责任，督导网站平台对照整治重点，深入自查自纠，全面排查问题漏洞，完善长效治理机制，有效提升技术防治能力，确保专项行动取得实效。