Workflow
语音合成器
icon
Search documents
“清朗·整治AI技术滥用”专项行动|第一阶段重点整治违规AI产品等六类突出问题
Bei Jing Shang Bao· 2025-05-06 11:05
北京商报讯(记者 魏蔚)5月6日,中央网信办通过官方公众号宣布,为规范AI服务和应用,促进行业 健康有序发展,保障公民合法权益,近日,中央网信办印发通知,在全国范围内部署开展为期3个月 的"清朗·整治AI技术滥用"专项行动。 中央网信办有关负责人表示,本次专项行动分两个阶段开展。第一阶段强化AI技术源头治理,清理整 治违规AI应用程序,加强AI生成合成技术和内容标识管理,推动网站平台提升检测鉴伪能力。第二阶 段聚焦利用AI技术制作发布谣言、不实信息、色情低俗内容,假冒他人、从事网络水军活动等突出问 题,集中清理相关违法不良信息,处置处罚违规账号、MCN机构和网站平台。 二是传授、售卖违规AI产品教程和商品。传授利用违规AI产品伪造换脸视频、换声音频等教程信息。 售卖违规"语音合成器""换脸工具"等商品信息。营销、炒作、推广违规AI产品信息。 三是训练语料管理不严。使用侵犯他人知识产权、隐私权等权益的信息。使用网上爬取的虚假、无效、 不实内容。使用非法来源数据。未建立训练语料管理机制,未定期排查清理违规语料。 四是安全管理措施薄弱。未建立与业务规模相适应的内容审核、意图识别等安全措施。未建立有效的违 规账号管理 ...