AI伪造的明星视频,正在以"平台官方活动"的名义疯狂收割TikTok用户。Copyleaks的最新报告显示,这类骗局的增长速度,已经超过了平台审核系统的迭代速度。
骗局运作:三步完成身份盗窃
诈骗者的操作链条极其标准化。第一步,用深度伪造技术生成明星"代言"视频——泰勒·斯威夫特深夜推荐"TikTok Pay"、蕾哈娜宣传"看视频赚奖励"。
这些视频的破绽很明显:面部动作僵硬、音画不同步。但诈骗者用上了两个关键障眼法:直接套用TikTok官方视觉标识,叠加纹理滤镜干扰平台的AI检测工具。
第二步,用户点击后被导向第三方网站。第三步,这些网站以"注册奖励"为名,收集姓名、电话、支付信息等个人身份数据。整个流程设计得足够短,短到很多人还没意识到"斯威夫特为什么要半夜推广这个"就已经填完了表单。
检测困境:平台算法与伪造技术的军备竞赛
Copyleaks指出,这类AI深度伪造骗局正在全平台蔓延。部分案例涉及非自愿的、高度性化的名人伪造内容——这已经超出了财产诈骗的范畴,进入人格侵权的灰色地带。
Meta最近刚被消费者联合会提起集体诉讼,指控其从Facebook的广告诈骗中获利。诉讼逻辑很直接:平台收了广告费,却对明显的欺诈内容视而不见。
TikTok的处境类似。纹理滤镜的存在说明,诈骗者已经摸清了平台AI检测的底层逻辑——不是让视频更逼真,而是让算法"看不见"异常。这种对抗性攻击的成本正在快速下降,而平台的防御成本却在指数级上升。
明星自救:商标化自己的脸和声音
好莱坞至今没有系统性解决方案。本周的一个信号是:斯威夫特 reportedly 申请将自己的声音和肖像商标化,以应对AI伪造和身后遗产项目的商业化争议。
这不是孤例。越来越多的名人正在把"我的脸"变成受法律保护的知识产权。但商标防御的边界很清晰——它能阻止商业盗用,却拦不住诈骗者。后者根本不打算长期经营品牌,只追求短期收割。
更深的问题在于,当普通人的脸也能被几秒钟的素材训练成伪造视频时,明星商标策略对大众毫无参考价值。
用户端的真实风险
这类骗局的真正杀伤力不在技术复杂度,而在心理锚定效应。明星背书降低了用户的防御阈值,平台视觉标识制造了"官方认证"的错觉,奖励机制触发了损失厌恶——"不注册就错过"。
Copyleaks的报告没有给出具体的受害规模数据,但"增长"本身已经足够说明问题:当伪造成本趋近于零,筛选目标用户的成本也在同步下降。诈骗者不需要说服所有人,只需要在海量投放中找到那批对明星有信任惯性、对平台规则不熟悉的人。
而TikTok的算法推荐机制,恰好是这类内容的高效分发器。
热门跟贴