打开网易新闻 查看精彩图片

11月19日,南都N视频记者从小红书“薯管家”账号获悉,平台围绕虚构职业资质、利用AI等仿冒人物等五类问题,持续开展深度治理。部分账号未经授权使用AI合成公众人物形象、声音制作短视频,被予以封禁处置。南都N视频持续推出《AI魔性侵权乱象系列调查》,起底滥用AI生成技术的侵权现象背后产业链。

打开网易新闻 查看精彩图片

AI生成的“邓亚萍”带货视频。

据了解,在中央网信办“清朗·整治短视频虚假人设乱象”专项行动期间,小红书围绕假扮弱势群体、虚构职业资质、利用AI等仿冒人物、鼓吹奢靡迷信、编造冲突剧情五类问题,持续开展深度治理。近期,平台处置涉及虚假人设的违规笔记1.1万余篇、违规账号667个。

其中,平台持续整治利用AI仿冒公众人物,聚焦利用AI合成公众人物形象、声音制作的视频内容,加强排查冒用公众人物名义发布特定领域信息,进行产品推荐、实施虚假营销的行为。

公布案例显示,部分账号如“温*财”“老*说”等未经授权使用AI合成公众人物形象、声音制作短视频,围绕特定领域话题发布内容。此类内容冒用他人名义,易使用户误认信息来源,平台已下架相关内容,并对违规账号予以封禁处置。

南都此前报道,10月18日3时许,演员吴越在社交平台发文,怒斥一个名为“花姐美妆日记”的视频账号利用AI“吴越”进行出镜和配音推荐护肤品。该账号也发布过不少“邓亚萍”出镜的带货视频,标注内容含AI生成。

同日,邓亚萍团队工作人员告诉南都记者,从未授权邓亚萍的个人形象进行任何形式的AI商业合作,“网上有很多AI假视频,我们在试图取证”。

南都N视频此前持续推出《虚拟艺人灰产调查》《虚拟角色资产库侵权乱象》《AI声音克隆乱象调查》等,起底仅凭产品图即生成虚拟人“体验”视频、虚拟艺人“带货”阳痿处方药等灰产链条;揭露“角色资产库”名义下存在的低价授权、普通素人被“盗脸”“融脸”等侵权交易乱象;曝光AI魔性侵权背后产业链。

采写:南都N视频记者 彭雨欣