中央网信办加强AI技术监控，处置超过3700个非法账号
发布时间：2025-06-20 18:37:35 | 责任编辑：吴昊 | 浏览量：10 次
近期，中央网信办发起了 “清朗・整治 AI 技术滥用” 专项行动，自2025年4月以来，针对 AI 技术的滥用现象进行了一系列整治工作。该行动重点关注了 AI 换脸、拟声等技术对公众权益的侵犯，以及缺乏内容标识导致的公众误导等问题。经过第一阶段的努力，各地网信部门联合发力，成果显著。
在整治过程中，累计处置了3500余款违规小程序、应用程序和智能体，清理了超过96万条违法违规信息，并对3700多个违规账号进行了处理。这一系列措施旨在切断违规产品的营销引流渠道，促使各大网站平台加强技术安全保障，并加快生成合成内容标识的落地。
各地网信办采取了多种措施积极推进整治工作。例如，北京网信办开设了举报渠道，形成了 “用户标记 — 平台核查 — 联合处置” 的工作模式，成功处理了26个举报案例。上海网信办则组织了法规宣贯活动，覆盖了400余家企业，确保显式标识规范的上线。浙江网信办针对 AI 应用和网站平台加强了督导，累计拦截和清理了超过2550万条违法信息。
各大平台也在积极履行责任，腾讯公司规范了应用程序管理，优化了巡查机制，处置了570余款违规产品。微博通过多种审核渠道，清理了4800余条违规内容。抖音建立了 “红蓝对抗” 机制，修复了潜在安全漏洞，提升了对虚假信息的识别能力。
划重点:
🌐 “清朗・整治 AI 技术滥用” 专项行动自2025年4月启动，处理3700多个违规账号。
📊 第一阶段整治中共处置3500余款违规 AI 产品，清理超96万条违法信息。
🔍 各地网信办积极采取措施，推动显式标识规范及平台责任落实，确保网络安全。
中央网信办于2025年4月30日启动了“清朗·整治AI技术滥用”专项行动，旨在规范AI服务和应用，促进行业健康有序发展，保障公民合法权益。在专项行动的第一阶段，中央网信办强化了AI技术的源头治理，重点整治了违规AI产品、传授售卖违规AI产品教程和商品、训练语料管理不严、安全管理措施薄弱、未落实内容标识要求以及重点领域安全风险等六类突出问题。
截至2025年6月20日，专项行动第一阶段已取得显著成效，累计处置违规AI产品3500余款，清理违法违规信息96万余条，处置账号3700余个。这些违规账号涉及多种问题，包括但不限于传播违法违规内容、利用AI技术制作虚假信息、低俗内容，以及从事网络水军活动等。
多地网信部门也积极参与专项行动，例如上海在各重点网站和AI平台共拦截清理相关违法违规信息82万余条，处置违规账号1400余个，下线违规智能体2700余个。此外，北京、天津、浙江等地也陆续发布了专项行动的阶段性成果。
中央网信办的这一行动体现了对AI技术滥用问题的高度重视，通过强化监管和技术治理，推动AI行业健康发展，同时也保护了公众的合法权益。
本网站(https://aigc.izzi.cn)刊载的所有内容，包括文字、图片、音频、视频等均在网上搜集。
访问者可将本网站提供的内容或服务用于个人学习、研究或欣赏，以及其他非商业性或非盈利性用途，但同时应遵守著作权法及其他相关法律的规定，不得侵犯本网站及相关权利人的合法权利。除此以外，将本网站任何内容或服务用于其他用途时，须征得本网站及相关权利人的书面许可，并支付报酬。
本网站内容原作者如不愿意在本网站刊登内容，请及时通知本站，予以删除。
