亲切的老刘，干净的猪舍，活蹦乱跳的小猪，视频里每一帧都写着 “真实”，可它偏偏就是AI生成的。这样的骗局，换作是你，能躲得过吗？
浙江杭州64岁的詹师傅没能躲过。他在某平台刷短视频看到有人卖猪，价格划算，前前后后关注了整整四个月才下定决心，交了700元定金。结果，猪没等到，卖家也联系不上了。后经当地媒体提醒才发现，那些让詹师傅深信不疑的视频全是AI生成的。
詹师傅为何会上当？他说看到视频，觉得对方是一个大型养殖场，自己买的几头猪对人家来说是九牛一毛。他遵循的是千百年来人类最朴素的判断逻辑——亲眼所见，还能有假？可惜，AI时代恰恰宣告了眼见为实的破产。
詹师傅的一句话道出了无尽的辛酸：“我们农村人很多网络科技都跟不上。”但问题，真的只出在“跟不上”的农村老人身上吗？
平台在这件事上，恐怕很难用“无辜”二字轻轻带过。
按要求给AI生成内容打上标识，平台确实做了。但问题在于，这个标识到底起了多大作用？它被放在视频角落，字号不大，颜色不显，对于不知道“AI”二字意味着什么的老年人来说，几乎等于不存在。詹师傅能盯着视频看四个月，说明他从头到尾都没意识到视频可能是假的，那个标识从未真正进入他的认知世界。
进一步说，平台在算法推荐上的精准度，已经证明了其在用户行为识别和内容分发方面的技术能力。同样的能力，完全可以用在风险提示的精准投放上，这在技术上并非难题。区别只在于，推送广告能带来收益，推送风险提示只会增加成本。平台不是没有能力，而是缺少动力。
如今的局面是，平台一边享受着AI生成内容带来的流量红利，一边用最低成本的“贴标识”完成合规的“最低要求”，可这个“最低要求”离真正保护用户之间的距离还有很远。
更值得警惕的，是AI技术对诈骗产业结构的根本性重塑。它把一项原本需要专业能力的犯罪活动，降维成了人人可操作的标准化流程。过去造假需要团队和周期，现在只需要一个工具和几分钟。门槛越低，波及越广；效率越高，危害越大。新型诈骗的传播速度，已经呈现出远超传统诈骗的扩散态势。
类似的剧情也在大洋彼岸上演。2025年，加拿大86岁独居老人朱迪·斯金因一段AI合成的总理卡尼推荐加密货币投资平台的视频受骗，最终被骗走全部积蓄。这是一场正在向全社会蔓延的信任危机。
也要看到，政策正在追赶现实。从2025年要求AI内容标识，到今年5月中央网信办要求将标注设为短视频发布前的必经环节，再到6月上线“涉AI应用乱象举报专区”，治理已经从原则性倡导走向硬性门槛，并辅以事后监督。这无疑是必要的进步。
对于平台来说，标识要贴，更要让该看见的人看得见；责任要担，更要担在实处。当AI足以以假乱真，平台的职责就不能止于“贴标识”，而必须延伸至审核与拦截。
例如，当视频内容涉及交易、付款、定金等敏感行为时，系统能否增设主动弹窗？用户联系卖家之前，平台能否设置一道确认环节？毕竟，把鉴别真伪的责任推给每一个普通网民，既不合理，也不可行。
对普通人而言，一个最实用的防线或许是，以后再看到视频，先不要判断脸真不真，先看它让你做什么。一旦涉及转账、定金、投资，无论画面多真实，请立刻报警，或换个平台确认。
在AI狂飙突进的时代，技术可以伪造面孔，但绝不能伪造信任。
守住这份信任，需要个人多一分警惕，但更需要平台多一分责任，法规多一分刚性。否则，下一个“詹师傅”，可能就是你我。
作者：农民日报全媒体记者 韩松妍
图片：1818黄金眼
监制：胡聪 编辑：杨钰莹
热门跟贴