10月25日那期节目
10月25日，央视《新闻周刊》播出了一期关于 AI 换脸的节目。
最扎人的一段讲的不是明星，是普通人。
最后一道防线是怎么破的
密码可以泄露，短信验证码可以被拦截，脸总不会被偷走，这是过去几年人脸识别被寄予的信任。
这次破的正是这一层。
动作不是人做的，是 AI 按提示生成的；摄像头拍到的也不是真人，是被篡改过的相机数据，业内叫虚拟相机。
两道锁同时失效：一道是动作必须由真人完成，一道是画面必须来自真实摄像头。
这两条本来互相兜底，现在被同一套工具一起绕过去了。
这就是这件事真正的分量。
不是有人被骗了多少钱，是一个被普遍依赖的安全假设，在技术上已经不成立了。
两道锁同时失效
动作 AI 按提示生成。
画面 相机数据被篡改。
不是孤例
同样在这期节目里，被冒名的还有一串名字。
演员吴越的脸和声音被 AI 克隆，用来推销护肤品。
演员温峥嵘说过一句话，把这件事的荒诞说透了：我现在很难证明我是我。
趋势很清楚：侵权从公众人物开始，但技术不会停在公众人物身上。
04
五分钟这个数字，是这条新闻里最该被记住的一个数。
它意味着侵权成本已经低到可以忽略，而维权的成本高到让人放弃。
固定证据、做鉴定、等开庭，几个月过去，索赔的钱可能还不够覆盖投入。
节目里有一句话概括得准：侵权一本万利，维权千辛万苦。
记住这个数
过去要请团队、租场地拍一天。
规则在补，但补在后面
去年9月，《人工智能生成合成内容标识办法》开始施行，要求 AI 生成的内容打上标识。
一年多过去，绝大多数 AI 视频都带了标识，新问题也跟着来了：多个涉嫌侵权的视频带着“含 AI 生成内容”的提示，标识反而成了侵权者的挡箭牌。
9月7日，最高人民法院发布《关于依法审理涉人工智能纠纷案件的意见》，针对的正是 AI 换脸拟声这些问题。
里面有几条很实：取证困难可以申请法院调查收集；肖像认定用可识别标准，合成得跟本人有差异，只要公众能认出是谁就算；经营者用 AI 仿冒名人带货构成欺诈，消费者可以主张退一赔三。
这些动作都对，但共同点是事后：先出事，再补规则。
而技术的迭代是按月算的。
这则新闻真正的意思
把上面这些连起来看，它指向的不是有人用 AI 骗钱这么简单。
它说明 AI 的能力已经越过第一道线，正在越第二道线。
第一道线是像不像，AI 早就过了，巴黎埃菲尔铁塔被大火烧断的视频在网上传了一圈，很多人信了。
第二道线是能不能过验证，过去大家认为这条线是硬的，因为验证背后有物理世界做担保，现在这条线也开始松了。
判断一项技术强不强，不看它演示得多好看，看它能不能攻破已经存在的防线。
这次它攻破了。
这才是这条新闻背后真正值得琢磨的地方。
它不是一条防骗提醒，它是一份技术能力的最新标定。
07
比丢钱更贵的
丢钱是看得见的损失，还有一笔看不见的。
当证明我是我变得困难，整个社会的交易成本就会上升。
平台要加验证，机构要加审核，个人要加证明，这些成本最后都会摊到每个人头上。
更贵的一笔是认知上的。
有人拿这项技术去克隆别人的脸骗钱，有人拿它五分钟做出一条产品介绍视频，把过去要请团队、租场地、拍一天的活干完。
工具是同一个，差别在使用它的人。
所以面对这种新闻，只停在小心别被骗，是不够的。
防住一次诈骗，只是少损失一笔钱；看不懂一项技术，会错过一整个阶段。
三条防线，一条出路
先把能做的做了。
第一，别在网上随手留高清正脸照和正面视频。
AI 要生成活体视频，起点就是一张清楚的脸。
第二，凡是视频里的人开口要钱、要验证码、要转账，一律挂掉，用另一个渠道回拨核实。
视频已经不能作为身份凭证了。
第三，凡是开了人脸核验的账户，单独设密码，能开二次验证就开。
多一道锁，成本只多一点，收益是决定性的。
但真正能改变处境的，是自己去学、自己去用。
不用一开始就学写代码，先把手上那些重复的活交给 AI 做一遍：写一份材料、整理一份表格、做一版图、剪一条视频。
用上十次，你对它的能力边界就有判断了。
有判断，才不会被别人编的故事吓住，也不会被别人的演示唬住。
躲着它没用
它已经在改规则了，一条一条地改。
这次改的是脸能不能证明你是谁，下一次改的，可能是你手上正在做的那份工作。
看清它，用上它，比躲着它有用。
热门跟贴