管住AI造假 留住社会信任

为解决AI生成内容以假乱真的问题，今年9月，我国《人工智能生成合成内容标识办法》正式施行。该 办法明确要求所有AI生成的文字、图片、视频等内容必须添加显式标识"亮明身份"，同时鼓励添加数字 水印等隐式标识，让公众明确知道哪些内容可能源自AI生成。既然已有规定，有关部门就应加大监管 和执法力度，对违反相关规定的平台和个人依法查处，形成震慑。此次北京市场监管部门查处相关案 件，就开了个好头，释放出对"AI造"加强监管的强烈信号。 知名央视主持人现身网络直播间？竟然还播报起虚假广告？近日，北京市场监管部门查处了首例利用人 工智能（AI）技术进行虚假广告宣传的案件。北京一公司在直播中宣称其产品能够治疗多种疾病，而 实际该产品仅为普通食品，不具备疾病治疗功能。此外，直播中还出现了知名央视主持人的形象，经鉴 定，该形象完全是利用AI技术伪造生成。 近年来，人工智能技术日益成熟，"AI换脸"的技术门槛大幅降低，如今仅凭一张图片、一段声音，就能 生成高度逼真的伪造视频。这让一些不法商家心生歹念，利用AI深度伪造科学家、医生、运动员、演 员等知名人士的面容和声音，炮制出一个个AI"李鬼"。 这类新型违法行为不仅侵犯了被仿冒者的 ...