网红利用AI假冒刘欢妻子,发布带货视频,有粉丝上当受骗,人都已经离世了,还有人急着冒充他的家属赚钱,这届网红带货的底线,到底还能低到什么程度?近日,有账号冒充刘欢的妻子发布视频,画面前半段拼接刘欢生前的表演,讲述所谓的临终情形,营造悲伤氛围,可说着说着,话题突然转向了商品推荐,最终竟然开始推销“黄精五黑粉”。

打开网易新闻 查看精彩图片

前面还在诉说失去亲人的痛苦,后面就开始卖货,这种操作实在让人愤怒,更令人无奈的是,视频虽然标注了AI生成,但仍有不少网友信以为真,在评论区认真留言安慰,对普通观众来说,谁能想到,一段看似悲痛的悼念视频,背后竟然藏着带货生意?

打开网易新闻 查看精彩图片

而且,被冒充的并不只有的妻子。相关报道还提到,有账号冒用刘欢儿子的身份带货,其他已故名人的子女身份也被拿来制作营销内容,只要名字有知名度,只要观众愿意相信,就有人把逝者的亲人当成流量密码,更离谱的是,有些账号不仅发布此类视频,还借机宣传制作业务、招收学徒,甚至发展代理,据报道,有制作者开出30秒以内视频89元的价格。

刘欢

打开网易新闻 查看精彩图片

这意味着,冒充逝者亲属、利用公众情感牟利,甚至可能已经形成了一门生意,真正值得追问的,还有平台的审核责任,据报道,记者反映冒充刘欢儿子带货的账号后,平台客服表示,需要由权利人或者家属举报,平台谨慎处理争议内容可以理解,毕竟不能仅凭网友一句话就认定账号侵权。

打开网易新闻 查看精彩图片

但问题在于,当账号明显借用已故名人的亲属身份进行商业推广时,平台难道只能等待家属亲自出面吗?家属刚刚经历失去亲人的痛苦,还要四处搜寻假视频、保存证据、提交申诉,才能阻止别人拿亲人的名字赚钱,这显然不合理,根据《民法典》,网络服务提供者知道或者应当知道用户侵权,却未采取必要措施的,可能依法承担相应责任。

打开网易新闻 查看精彩图片

平台不能把所有核查压力都推给受害者,更不能让造假者利用审核空档继续牟利,AI可以生成画面,却不能凭空生成冒充他人的资格,技术能够模仿声音和形象,也不代表可以随意消费逝者的尊严,视频下架只是第一步,账号是否还在继续牟利、消费者如何维权、类似内容如何提前识别,都需要进一步处理。

打开网易新闻 查看精彩图片

人已经离开了,就让逝者安息吧,别让亲人的名字,成为骗子手里的商品标签,也别让家属在承受悲痛之后,还要独自收拾这场由他人制造的烂摊子,网红无底线的行为该被管管了,对此你们有什么想说的吗?