现在的人工智能换脸这门生意,成本已经低到可以忽略不计,收益却高到有人愿意赌一把,代价却几乎全压在被侵权的那个人身上——只要平台放任不管,这事就没完没了。
吴越凌晨3点发出来的那条文,就是这笔账的账单。
为什么假冒明星带货,抓不干净?
往回看几年,仿冒一个明星还得下本钱。找替身、搭景、配音、剪辑,一整套流程走完,几万块打底,替身还可能临时反悔,把事捅出去。
现在这套流程被压缩进了一台电脑。公开的采访、直播切片、综艺片段,网上随手一搜就是素材库,喂给模型跑上几个小时,一个会说话、会眨眼、还会对着镜头笑的吴越就出来了。有人算过,一条换脸带货视频的制作成本能压到几百块,熟练的团队一天出十几条不算难。
背后还有一条分工清楚的链子。有人专门收实名账号,一个带点粉丝的老号,市场价从几百到几千不等;有人专门做素材,把明星公开露面的片段剪成训练包;有人负责投流,把视频推到容易下单的人群面前;最后是收款,钱走第三方通道,绕几道手再落地。几个人凑一桌,就能开张。
这类账号还有个共同特点,生命周期短,赚一波就走。
收益端更离谱。护肤品是这类账号的头号猎物,单价高、毛利厚、复购快,效果好不好,买回去用半个月也说不清。
挂着明星同款几个字,转化率能翻好几倍,一条视频跑出去,进账几十万不算夸张。背景资料里那个账号,除了吴越,还挂着好几条冠军推荐的视频,模板像是一个模子里刻出来的,连话术都懒得换。
等到本人发现、发律师函、平台下架,账号早就换了壳,钱也走了别的通道。这本账怎么算都不亏,唯一亏的是被换脸的人,和那些真信了的买家。
平台标了那几个字,就能免责吗?
背景资料里有个细节值得咂摸——那条视频下面,明明白白标着“作者提示:含人工智能生成内容”。
这个标注,眼下是很多平台的标配动作。它解决的是观众知不知情,可它解决不了平台担不担责。这两件事经常被人混在一起谈。
我的判断是,标识更像一张入场券,不是免罪金牌。它的存在本身就说明,平台知道这类内容在跑,知道有人靠换脸卖货。
既然知道,接下来就得回答另一个问题:收到投诉以后,平台用了多久处理,处理到什么程度,有没有顺手把同一批账号的其他视频也清一遍。
平台的难处也不是假的。每天上传的内容是天文数字,机器先筛一遍,人工再抽检,漏网是常态。可算法推荐这套东西,看的是完播率、互动率、转化率,一条换脸视频数据好,它就会被推给更多人。算法不认识吴越,它只认识曲线。
一个账号连着发好几条冠军推荐、明星同款,话术像从同一个模子里倒出来的,这种异常摆在推荐池里,算法比谁都先看见。真要分责任的时候,标了那几个字,顶多说明平台没装睡;能不能免责,还得看它醒着的时候干了什么。
被换脸的人维权,卡在哪一步?
明星算是维权条件最好的一拨人了。有名气,有团队,有律师,发一条文全网都看得见。
即便这样,吴越这条文案发出去,面对的还是一堆麻烦。账号背后的主体是谁,注册地在哪,钱进了谁的口袋,中间过了几道手,每一道都得查。
跨境、空壳、层层转包,这几样凑在一起,查起来像剥洋葱,剥到最后可能只剩一个虚拟号码。
举证这件事本身也要花钱花时间。得先把视频固定下来,做证据保全,再证明画面里的人确实是本人、声音确实是仿的,还得证明这条视频造成了多少损失。每一步都要成本,每一步都拖时间,而对方换个账号的成本,可能只是点几下鼠标。
换个角度想,明星尚且如此,一个普通人的脸被拿去用,连发文的扩散量都没有,能做的就更有限。技术把作恶的门槛拉到了地板上,却把维权的门槛留在了半空中。
这场猫鼠游戏,尽头在哪?
去年9月起,咱们国家对人工智能生成内容的标识有了更明确的要求,平台要标,发布的人也要标。规矩往前走了一步,这是好事。
但规矩是死的,账号是活的。今天封一个花姐,明天能冒出十个新名字,头像换一张,模板照抄。
真正能压住这条链子的,可能不是某一部法规,而是让这门生意的成本涨上去——让平台在推荐环节就把可疑内容拦掉,让支付通道对这类交易多问一句,让账号主体的实名信息真正能追到人。
平台不是没有能力拦,是拦的动力还不够足。可疑内容带来的流量也是流量,只有被投诉、被曝光、被点名,它才会动得快一点。
技术捅出来的窟窿,最后还得靠技术加上规矩一起补。指望哪一方单独把这事办了,不现实。
吴越那条文发在凌晨3点,那个钟点清醒的人不多,她算一个。
可一个行当的清醒,不能总靠受害者半夜睡不着。工具本身不分善恶,分善恶的是握着它的那只手。
热门跟贴