近日
“微信珊瑚安全”微信公众号发布
关于打击利用AI仿冒知名人士进行营销宣传的公告
具体内容如下
近期有媒体报道网络存在利用AI技术仿冒名人进行不当营销的现象。为守护用户权益，避免消费者上当受骗，结合用户举报、日常巡查等线索，我们从速从严打击了一批利用AI仿冒知名人士进行不当营销、恶意博取流量的违规行为，并针对相关情况开展专项治理。截至目前，累计处置内容532条，关闭账号209个。典型案例如下：
下一步，我们将持续对“利用AI仿冒知名人士进行营销宣传”等违规行为增加打击力度，进一步提升技术治理能力和水平，维护良好生态。同时，我们也倡导广大用户自觉遵守法律法规与平台规则。针对“利用AI合成技术生成违规内容”的行为，平台欢迎广大网友提供更多线索，共同构建清朗有序的网络环境。
多位知名人士
遭遇“AI营销”
随着AI合成技术愈发成熟且已被频繁应用在短视频制作中，AI合成冒充名人的骗局愈来愈频发。
最近，有网友向媒体反映，家中老人在网络卖货视频中看到“张文宏医生”在卖一种蛋白类的产品，老人信以为真，不仅下了单还转发给了很多群。
后来经核实，该视频并非张文宏医生本人，而是利用AI技术合成的。在这段视频中，被合成的人像反复介绍一种产品，声音听起来也很像张文宏本人，商品橱窗内的某蛋白棒售卖链接显示已出售1200多件。目前，该账号已搜索不到。
对此，张文宏医生在回应媒体时表示，“这样的卖货账号不止一个，且一直在变，我多次向平台投诉但屡禁不绝。”
据报道，今年11月，江西一位65岁老人到银行办理业务，声称要贷款200万元给男朋友“靳东”拍戏。经调查发现，老人手机里的“靳东”出自AI合成的视频。
今年10月，老牌港星黄百鸣通过社交媒体郑重声明，有人盗用其过去影片，利用AI替换声音，代言一个不知名的药膏品牌。
律师胡雪表示，这种行为是显而易见的违法和侵权，至少涉五个法律，侵犯了肖像、声音、知情权等诸多权利，要维权，受害人除了向公安报警，也可向网信部门举报。
国家网信办已出手
今年9月，国家网信办已经发布了《人工智能生成合成内容标识办法（征求意见稿）》，要求从视频制作和发布的源头做好信息管理。
该办法明确提出两种人工智能生成合成内容标识的种类，即“显式标识”与“隐式标识”，还明确了两类标识所应当适用的场景，将《深度合成规定》第十七条所提出的“显著标识”与“显式标识”建立了直接的对应关系。此外，根据不同人工智能生成合成内容的载体与形式（如文本、音频、图片等），该办法还罗列与说明了部署各类显式标识的部署位置和隐式标识所应当包含的信息要素。
金杜律师事务所宁宣凤表示，该办法的出台标志着中国在人工智能领域规范管理方面迈出了重要一步。伴随在生成合成的内容中添加显式或隐式标识举措的落地，互联网信息内容的透明度将显著提升，用户可以在此基础上直观识别内容是否由人工智能生成，有助于用户免受虚假内容的负面影响。
据了解，该办法仍然在逐步完善的过程中。随着《人工智能生成合成内容标识办法》正式落地，将为社会公众带来一个更加健康、透明和负责任的人工智能应用环境。
编辑：小马
来源：西安发布
校对：风华正茂
审核：禾亦
热门跟贴