文|金满兜
“AI迟早会代替人类”
本以为是一句玩笑话，却不料，真真实实的发生在了人们身边。
那一刻，害怕占据了所有人的内心。
01
2月26号那天，一向低调拍戏、不怎么蹭热度的王劲松，罕见在社交平台发了条消息，语气里满是无奈和后怕。
他说自己被AI盗用了形象和声音，根本看不出真假。
要知道，作为圈内出了名的戏骨，王劲松向来踏实敬业，不炒作、不轧戏，一门心思打磨演技。
也正因这份沉稳，收获了不少观众的认可。
可谁也没想到，这份低调，还是没能躲过AI技术带来的无妄之灾。
后来才知，这次的AI造假并不是无中生有，而是有人动了歪心思，拿着他多年前的一段工艺视频做了手脚。
原来，2020年，王劲松拍《冰雨火》的时候，抖音电视剧官方为了宣传禁毒知识，专门邀请他录制。
视频里他穿着剧中的服装，语气严肃又认真地普及禁毒常识，初衷特别纯粹。
可不法分子却把这段正能量的视频，当成了谋取私利的工具。
用AI悄悄修改了里面的台词和口型，硬生生把原本的禁毒宣传，改成了推广某个不知名的平台。
还扯了些CRC、RWA之类晦涩难懂的词。
就是想故意营造出高端、靠谱的假象，忽悠不明真相的网友赶紧参与，以此赚取不义之财。
最让人揪心的是，这段假视频做得太真了。
声音、口型跟王劲松本人几乎没差别，不仔细盯着看，根本分辨不出来。
就连他家里人看了，都以为是他自己接的推广，还来问他具体情况。
而王劲松也说，以前也碰到过AI造假，但都特别粗糙，一眼就能看出是假的。
但这次的技术实在太厉害了，打的他措手不及。
发现之后，他第一时间就向微信视频号投诉，还带上证据说自己没授权任何人用他的形象。
还好，平台反应还算快，没多久就把假视频下架了。
但王劲松心里还是没底，视频删了，可背后造假的人没找到，也没受到什么惩罚。
说白了，他担心的不是自己肖像被侵权，而是这种逼真的AI伪造，以后要是被用来电信诈骗，会坑到很多普通人。
尤其是老年人，到时候造成的损失，可能是无法挽回的。
更何况，王劲松的遭遇，并不是个例。
02
早在几年前，演员靳东就经历过类似的事情，而且情节比王劲松这次还要吓人。
甚至差点让一位老人倾家荡产，毁掉自己的晚年生活。
当年，靳东塑造的角色大多是值得信赖的形象，也正如此，他特别受中老年观众的喜欢。
不少阿姨、奶奶级别的观众，都把他当成了“理想型”。
可这份受欢迎的好口碑，却被不法分子盯上了，当成了实施诈骗的“利器”。
他们利用AI，合成了靳东的形象和声音，刻意打造出“深情暖男”的人设，专门针对中老年女性实施诈骗。
那些不法分子很清楚，中老年观众对靳东的信任度很高。
只要模仿靳东的语气、神态，说一些暖心的话，就能轻易获取她们的信任，然后一步步诱导她们转账、投资。
有一次，江西一位六旬老人，就在短视频平台上刷到了一段AI合成的靳东视频。
里面的他高冷，语气温柔得不像话，还对着镜头跟老人表白。
说自己关注她很久了，一直暗恋她，还特意合成了两人的亲密合照，让老人误以为自己真的被偶像喜欢上了。
没多久，老人就陷了进去每天都守在手机前，等着“靳东”跟自己聊天、发消息。
很快，视频里的“靳东”就开始找借口，说自己正在拍一部大戏，但是遇到了资金困难，希望老人能帮自己一把，等戏拍完了，就会好好报答她，还会娶她为妻。
于是，老人想也没想，一门心思要帮自己的“爱人”渡过难关，就去了银行贷款，金额是200万。
期间，工作人员询问她贷款用途，她也不肯细说，只说要帮“亲人”救急。
但因为手续不全，最后没办成，老人当场就崩溃了，又哭又闹的。
而工作人员立马就察觉到了不对劲，急忙报了警，这才终于“真相大白”了。
可以说，这件事对靳东触动特别大。
后来他在政协小组讨论上，还特意提到了这件事，语气沉重地劝解了一番。
而除了靳东和王劲松，女演员温峥嵘，在去年也遭遇过AI带来的无妄之灾。
03
去年11月左右，温峥嵘趁着拍戏间隙刷手机，无意间刷到了一个直播带货的账号。
点开一看，瞬间愣住了，因为直播间里的“主播”，竟然和自己长得一模一样，就连说话的语气也有几分相似。
最主要的是里面的“温峥嵘”正在卖力地推销着各种产品。
可她明明没有直播，甚至那段时间一直在剧组赶拍新戏。
每天忙得连休息的时间都没有，根本不可能去做直播带货。
当时，温峥嵘心里又气又疑惑，好奇地点进其中一个直播间，对着镜头开口就问对方“你是温峥嵘，那我是谁”。
结果刚说完这句话，就被对方秒速拉黑了，直播间也直接把她禁言。
后来她又找工作人员去核实，才知道这些直播间里的“温峥嵘”，要么是用AI合成的，要么是盗用她以前参加活动、拍戏的视频片段。
然后剪拼接凑成录播，伪装成实时直播的样子。
更让温峥嵘无奈的是，这些AI直播带货的账号，还在卖一些她从来没推荐过、甚至没听说过的产品，有的甚至是三无产品。
粉丝们也因为信任，便毫不犹豫地下单购买。
但不少人买完之后发现产品有问题，就去网上吐槽温峥嵘本人，让她的口碑受到了不小的影响。
事情发生后，温峥嵘团队也在第一时间就给这些商家和直播账号发了律师函。
可即便如此，还是止不住这种乱象，每天都有新的AI直播账号冒出来。
说到底，他们不是第一个，而不会是最后一个。
只希望类似这样的事情，少发生吧。
热门跟贴