昨天刷到王劲松在微博发的一段话，就几句话，但看得我后背发凉。“太可怕了，声音、口型完全看不出来真假。”他不是在演戏，是真被AI骗过好几回了。有人用他脸卖保健品，有人用他声推理财课，连他老家亲戚都差点信了。
这事儿早就不止他一个。前两天江西一个老太太，对着手机里“靳东”喊了半个月“哥哥”，最后差点把养老钱转过去。“靳东”连嘴都没动，就是AI合成的视频。宁夏还有个公司员工，接到老板视频电话让转20万，画面真、声音真，结果是骗子用AI扒的公开采访剪的。
现在做个假视频太简单了。网上搜“AI换脸教程”，三分钟教会你。只要一张明星照片，录十秒钟自己说话，就能生成一模一样的“他”。不是以前那种鬼畜变形，是连眨眼频率、嘴角抽动都像真的。平台审核根本追不上，删一条，十个新号又冒出来。
法律上其实不缺条文。《民法典》写着肖像权、声音权都受保护，《广告法》也说不能虚假宣传。可真去告，第一步就卡住：不知道谁干的。IP地址能改，账号秒注销，微信投诉点十次，只删掉一条链接，下一条马上又挂出来。
有人试过报警，警察说得有证据。可怎么证？录下来的视频里就是“张柏芝”在推面膜，可她本人压根没签过合同。你拿截图去，对方回一句“这是AI画的漫画人设”，法院还不好直接判。
技术上倒是有点动作。有些大平台开始加小字“AI生成”，但字体小得像蚊子腿，还经常不显示。欧盟那边准备强制打水印，国内还没动静。温峥嵘前阵子干脆在主页顶格写“本号外全是假的”，底下评论都在谢她提醒。
银行柜员前两天跟我说，他们培训新加了一条：凡是视频里有人突然要钱，哪怕像亲爹，也得挂电话，当面确认。这话听着土，但真管用。上个月湖北一个姑娘，就是挂了电话去派出所问，才拦下那6万块。
AI不是魔法，是工具。问题是现在拿工具的人，比防工具的人反应快太多。王劲松发完那条微博，底下有条评论说：“以前怕脸被偷，现在怕脸还在，人已经不是你了。”
我关掉手机，看了眼自己拍的自拍，突然有点不确定——这照片，真是我吗？
热门跟贴