当夜深人静的凌晨三点,我的手机屏幕上亮起一条新闻,吴越的微博如同投下了一颗石子,激起层层涟漪。原来,一个名为花姐美肤日记的账号,竟利用AI技术伪造了一个吴越,正在直播间里热卖护肤品。那吴越的模样,神似本人,声音也颇有几分韵味,甚至连说话的语气都模仿得惟妙惟肖。吴越的微博质问:骗了多少人的钱?请如数奉还。短短数语,瞬间引爆网络,评论区里充斥着质疑、愤怒与猜测。更让人心惊的是,视频的结尾赫然出现邓亚萍推荐的画面,而邓亚萍团队早已澄清,未曾代言过任何相关产品,更未授权任何人使用她的AI形象。同一场直播,两张被盗用的脸,一场精心策划的骗局,令人不寒而栗。
打开网易新闻 查看精彩图片
去年底,温峥嵘就曾公开自曝遭受AI盗播的经历。她同时出现在多个直播间,尽管妆容、发型和推销的产品各不相同,但声音却惊人的一致。网友戏称其为赛博温峥嵘。当温峥嵘本人进入直播间,试探性地询问你是温峥嵘,我是谁,却遭到了秒速拉黑的无情对待。她无奈地表示,想要证明自己确实是本人,实在过于困难。她的团队曾在一夜之间集中举报50个假冒账号,然而这些账号的消失往往只是暂时的,很快就会以另一种形式再次浮现。最终,温峥嵘不得不报警,并公开了立案回执与立案告知书,这起案件被正式立案为刑事案件。
打开网易新闻 查看精彩图片
如今,AI换脸技术的门槛已经低得令人咋舌。只需获取一张清晰的照片、一段公开的视频和声音素材,再配上现成的换脸工具,就能轻易地制作出一段明星推荐视频。真人不必亲自出镜,拍摄和签订合同等繁琐环节也能省去。更有甚者,电商平台上出现了一些提供人脸替换、声音克隆和视频制作服务的商家,换脸视频的报价仅需几十元至几百元不等。而定制一段AI明星带货视频,则只需一分钟一千元。
打开网易新闻 查看精彩图片
热门跟贴