春节前夕，旅行穿搭博主雷国悦在社交媒体上意外刷到了“另一个自己”。起初，她只是感叹“跟之前拍的那张好像”，没想到，越看越觉得离谱。
今年1月，她在粉丝量超65万的账号“来酱是我”发布了多张拍摄于迪拜的写真。她背对镜头，在高楼的无边泳池眺望，远处是高楼大厦与海面。而另一位博主所发图片的机位、构图与调色都与之高度相似，唯一不同的是，画面中的女生穿了不同的裙子，多戴了一顶草帽。
“仔细对比后，我发现泳池里的波纹形状、海面经过的船只、其他游客露出的脚⋯⋯所有细节都一模一样。”雷国悦告诉《中国新闻周刊》，她确信，这是他人用AI工具融图的结果。
近年来，随着AI技术不断普及，互联网的“含AI量”飙升，不明来源的内容也加速泛滥。创作者不仅面临原始创意被抄袭的风险，其面容、身体形象等也可能被AI工具剥离，在看不见的地方被流转、交易。AI为人类解放生产力的同时，也大幅降低了侵权行为的技术门槛。如何守住人类著作权、肖像权、隐私权的防线，也成为今年全国两会的热议话题。全国政协委员、导演刘家成认为，若AI生成内容被用于不良广告，将对当事人造成毁灭性打击。他呼吁加强对AI的规范管理，严禁随意替换他人面孔、嫁祸于人。
AI插画/adan
AI成为剽窃利器
令雷国悦气愤的是，该账号不仅剽窃创意，还直接用于商业推广。这个有着1万多粉丝量的账号，实则是代理商批量投放的低成本推广号，帖子带有明显的商单属性。
“拍摄这张写真时，我和摄影师特意等到日落之前，当时的光晕特别美，能正好照亮对岸的摩天大楼。在特定的构图下，泳池与摩天大楼形成了强烈的对比感。”她清楚地记得自己创作时的构思，难以接受对方以极低的成本复刻并牟利。
她还发现，该账号里很多图片的细节都经不起推敲，怀疑也“融”了其他博主的图。“放大看，远处高层建筑的形状、窗户的线条都是歪的，这怎么可能是实拍？”她说。
她连夜通过可信时间戳服务对电子证据进行留存，做好了后续可能要提起诉讼的准备。不久后，她联系对方，要求删除内容并公开发表道歉声明。
对方起初矢口否认，称图片由品牌方提供。她清楚账号运营的逻辑，反驳对方，指出AI融图只可能是个人行为。双方又僵持了几天，在她持续施压并强调“自己做好了全面维权的准备”后，对方终于承认了自己未经授权使用了原创图片并进行AI换身的行为。
一对一的维权已很艰难，当侵权者是一个有组织的团伙时，个人创作者的反抗往往更加无力。2024—2025年，画师张小药就陷入了一场漫长的AI侵权纷争。
2024年2月，住在北京的原创画师张小药在社交媒体发布了一则手绘的黑白插画作品《拥抱心里的怪物》，画面中，一位头发里散落着星星的女孩紧紧拥抱着一只黑色的小恶魔。当时的她正经历人生低谷，画画是她自我治愈的出口。该作品已获得1.4万点赞，在粉丝的建议下，她开始联系厂商自印拼图产品。
然而，当她自售的拼图只卖出几十幅时，盗版的拼图、手机壳、喷绘彩画制品已开始在社交媒体的电商平台泛滥。“大多数商家一被举报就主动下架，过两天又上架，只能打持久战。唯独有一家拼图馆，不仅是第一家盗图的，还拒绝与我沟通，甚至把我拉黑。”张小药告诉《中国新闻周刊》。
她发现，这家“Cno拼图馆”在推广商品时完全照搬了她的商品图、标题文案、商品简介和买家秀图片等。至于其实际贩售的拼图画面，商家用AI工具把原画作又“跑”了一遍，修改了大量原有纹理和细节，例如画中女孩头发上的六角形星星，一部分变成了五角形，数量也变少了。
2024年4月，该商家通过付费推流、直播等手段，销售了千余件盗版拼图。有消费者发现端倪后要求退款，店铺客服仍强调“这是咱家画师自己的作品”。身为原创者的张小药却被迫自证，她在社交媒体发布声明，对方反以“诽谤”为由成功举报。
“他们坚称自己只是‘平替’而非盗版。”张小药说。她向北京一家法院提起民事诉讼，由于拼图网店的地址位于贵州，她又向当地法院提交了材料，但案件在短期内难以推进。2024年5月，她拨打了公安局电话，这起民事纠纷由此转向了刑事立案，成为北京首起利用AI侵犯著作权的刑事案件。
左为雷国悦拍摄的原图，右为雷国悦在网上发现的AI融图后生成的图片。本版图/受访者提供
被AI洗稿维权难
2024年7月，公安机关以涉嫌侵犯著作权罪抓获了3名拼图馆的经营者、1名拼图厂的老板，并于11月移送至北京市通州区检察院审查起诉。2025年5—6月，检察院提起公诉，法院作出一审判决。
在案件审理过程中，张小药终于看清了“画作被偷”背后的真相。判决书显示，2024年3—7月，主要负责“Cno拼图馆”电商店铺销售、运营的姚某，指使他人使用Stable Diffusion等开源软件生成侵权图片，拼图厂的老板罗某则使用这些侵权图片制作拼图产品。截至案发，共有3000余件侵权拼图被售出，非法经营额超27万元。
这对“搭档”跑通了从找图、AI融图、生产销售到营销的链条。在犯罪过程中，罗某不仅指导姚某开设网店卖拼图，还向其介绍AI画师，并教授如何规避侵权、如何应对投诉。据北京市通州区人民法院向央视披露的聊天记录，罗某在2024年4月告诉姚某：“富贵险中求，再说你又不是做黑五（类产业），怕什么。”“顶多就是给钱，怕什么。你赚钱了，还给不起那千把块吗，都是骚操作。”
面对新型工具，侵权者抱有钻法律空隙的侥幸心理。“尽管现实中用AI侵权的现象非常泛滥，但真正落实到诉讼的案件比例非常小。”剑桥颐华律师事务所律师杨卫薪告诉《中国新闻周刊》。
“AI技术增加了著作权侵权的认定与维权难度，也对律师和法官提出了更高要求。”他进一步解释，传统的著作权侵权行为，例如图片著作权的批量维权，往往“照搬即侵权”，没有太多抗辩空间，双方易达成和解。但当侵权者使用AI“洗稿”后，就在侵权的流程中增加了一处截断点，举证和判定“实质性相似”的难度增加，最终结果也具有不确定性。
张小药对此深有体会。例如，她原本需要在立案前将原创画作和侵权图送去鉴定机构比对，有6张图被商家“洗稿”，可能要花费上万元。所幸对方的抄袭痕迹明显，案件得以顺利立案。
被告律师在抗辩过程中表示，AI画师在AI生图、修图过程中提出了10处不同方案，存在刻意差异，并不构成抄袭。在调查过程中，检察机关还发现，侵权人伪造了盗版画作的创作过程，以虚假材料取得了中国版权保护中心的作品著作权登记证书。
最终，法院判决，利用AI工具生成“实质相同”作品的行为仍构成侵权。作为主犯的罗某和姚某，各被判处有期徒刑一年六个月，罚金6万元。
现实中，仍有大量想要维权的创作者被层层难题“劝退”。杨卫薪举例道，春节期间，一位原创者手工绘制了以白菜和铜钱为核心元素、寓意“摆财来财”的画作。很快，该作品被他人使用AI重新生成，从最终效果看，对方AI“洗稿”的程度相当彻底。他判断，这在当前的司法实践中面临更复杂的侵权认定难题。
一位食物类摄影博主向《中国新闻周刊》反映，其商单摄影作品屡遭其他品牌使用AI“洗稿”，对方仅替换水果等素材，画面构图和光影均原样照搬，相关宣传图仍在线下门店宣传销售。“即便存在竞争关系，品牌方也觉得诉讼耗时费力，管不动这种小规模的侵权。”他说。还有一名画师的原创角色（OC）被他人用AI改图后制成了一款聊天智能体，在一个应用程序中上线商用，被近7000人使用。然而，在她追查源头的过程中，最初用AI改图的人销号跑路，难以追查其身份，缺少了立案所需的关键信息。
左为张小药手绘插画作品《拥抱心里的怪物》，右为社交媒体电商平台销售的盗版拼图产品。本版图/受访者提供
“AI盗脸”快速进化
随着AI的普及，容易失窃的不仅是原创作品，还可能是任何人的面孔。
“太可怕了，视频。声音，口型完全看不出来真假。”2026年2月，演员王劲松发文称自己的形象被某视频账号盗用，“把我AI了”。经辨认，其原始素材来自2020年拍摄的电视剧《冰雨火》，AI换脸后的假王劲松以逼真的声音和画面进行商业推广。“措手不及，我家里人都分不清是不是真是我了。”他说。
事实上，此类盗用已形成流水线。据《中国新闻周刊》此前报道，某公众号的同内容视频中，不光有“王劲松”，还出现了张国立、唐国强、李亚鹏等多位名人的假形象，均在推荐一家“数字金融企业”。
医疗专家也成为灰黑产的目标。据央视报道，2025年11月，北京协和医院临床营养科主任于康教授发现，自己从未参与录制的视频大量出现在社交媒体上。“这完全是我的形象，声音相似度完全超乎了我的想象。现在技术能达到这个层级，有一点后背发凉。”他感叹。
令于康担忧的是，视频造假方兜售的错误商品及错误信息，老百姓一旦相信，会造成更广泛的影响，也让营养学界长期以来的科普努力付诸东流。记者发现，目前，该类视频仍在社交媒体中传播。例如，有视频标注着文字“后悔没早点看到，跟着于康教授喝白醋”，假于康声称靠某种方法“掉了40多斤”，其妹妹也在3个月内掉了32斤。在评论区，有超170名网友留言索要减肥食谱。
当前，在社交媒体和二手交易平台上，贩售AI换脸工具与服务的行为仍很常见，不少商家将明星换脸效果用作演示与宣传。
早在2020年，针对中老年妇女的“假靳东诈骗”事件就引起了社会对盗脸技术的关注。中国人民大学信息学院副教授张文平告诉《中国新闻周刊》，当时的技术手段主要依靠视频剪辑和语音合成（TTS），需要截取大量真实影视素材，再用简单的对嘴软件或后期剪辑拼接而成，仍存在眼神呆滞、背景不匹配、音画严重不同步等伪造痕迹，肉眼可辨。
然而，技术已在几年内高速进化。2021—2023年，GAN（生成对抗网络）技术通过“生成器”与“判别器”互搏的方式学习人脸特征，提升了假视频的皮肤质感，但侧脸、眨眼等细节仍容易穿帮。2024年至今，基于Diffusion（扩散模型）与Transformer架构的生成式大模型技术逐渐完善，AI通过大量数据学习、模拟现实规律和逻辑，已能使环境光随着面部转动而变化，并表现出毛孔、汗水等纹理细节。
“现在的深度伪造是全方位的，多模态扩散模型能实现声音、唇形、表情、动作的同步。”张文平解释道，大约只需10—15秒的语音就能完美解析一个人的声音特点并复刻；实时分析音频波动后，则能精准驱动3D嘴部肌肉模型；随后，只要捕获操纵者的细微表情，如挑眉、皱眉等，就能实时迁移到伪造目标脸上；在环境合成环节，不仅能自动补全背景，还能模拟摄像头抖动带来的自然模糊。
传统的识别方法也已失效。“以前，我们可以观察面部边缘，现在的模型会自动在面部边缘添加‘自然噪声’和‘羽化处理’，甚至模拟光线溢出的效果，消除了生硬的边界感。以前，‘不眨眼’也是假视频的硬伤，现在的AI能通过‘生理特征模拟’模块，伪造心率引起的微弱肤色变化和正常的眨眼频率。”他说。
检测技术不断面临新的挑战。张文平表示，当出现疑似深度伪造攻击时，已不能靠肉眼观测或单一检测工具。目前相对有效的手段是“多因子验证”，例如要求对方在视频中做出快速用手在脸前挥动、侧转90度头等意料之外的极端动作，大多数实时 AI 模型仍存在这一短板。
“但这些方法的有效性，在快速进化的技术面前也随时可能失效。”他坦言。
据国家反诈中心数据，2025年上半年，AI换脸诈骗案件涉案金额超68亿元，单起案件最高损失达2000万元。图/视觉中国
普通人防不胜防
越来越“以假乱真”的AI换脸技术，正将普通人置于多重风险之中。2026年全国两会期间，全国政协委员靳东也回应了AI换脸乱象，他表示AI换脸技术不只是用在短剧，很多人也因为AI换脸遭遇网络诈骗。
视频博主“滤镜粉碎机”曾模拟过真实的诈骗流程，在2024年9月进行了一场“AI换脸反诈骗测试”实验。在技术方的协助下，团队生成了一位成员的AI换脸视频，用陌生微信号冒充本人联系其母亲，再用AI视频拨打微信视频电话，以“女友怀孕急用钱”的理由索要2万元。
母亲向其他亲戚朋友求助，得到了许多“是骗子，别转钱”的提醒，在此期间始终无法联系到本人。随着时间流逝，她的猜想越来越多，开始将孩子穿的绿色T恤想象成手术服，怀疑他“摊上了大事”，真正需要用钱的理由不方便明说。三小时后，在焦虑情绪的驱动下，母亲把钱转到了陌生的银行账户。事后复盘时，这位母亲表示“从始至终都没觉得有人冒充他”。
团队主创袁文逸告诉《中国新闻周刊》，中老年人是电信诈骗的主要受众群体，面对AI带来的新型骗术将更没有招架之力。“我们采用的理由比真实的电信诈骗案例温和得多，但最终的结果仍然超出了想象。平时再冷静、有阅历的家长，面对熟悉的脸庞和声音，可能都难以战胜情感。”她说。
据国家反诈中心数据，2025年上半年，AI换脸诈骗案件涉案金额超68亿元，单起案件最高损失达2000万元。《新京报》曾统计2023年3月至2025年3月间10家主流媒体网站的103篇“AI诈骗”相关报道，结果显示，冒充类诈骗占比高达62％，对方主要冒充公检法、亲朋好友；其他典型套路还有敲诈勒索、网购退货退款、入会荐股、保险借贷、相亲恋爱、实习转正等。
“AI换脸的逼真性、多场景性、易操作性，使其危害的规模和范围都在急剧扩大。”张文平指出，尤其是其动态性和实时性，能让很多攻击成为现实，让人更加防不胜防。
该技术正被用于系统性攻击数字信任验证体系，并直接牟利。中国裁判文书网在2025年12月收录了一则浙江省绍兴市上虞区人民法院审理的案件。一审判决书显示，2023年11月至2024年3月，谢某首先从他人处购买公民个人信息参与茅台酒抽签，中签后，又向赵某等人购买中签人的身份证照、人脸照片270余张。随后，另一人张某利用AI换脸视频小程序制作了公民个人头像的眨眼动态视频，以此破解人脸识别认证系统，进入支付界面并进行相关付款操作，共计制作120余次，获利超6000元。所购买的60余瓶茅台酒，后被卖给江西省南昌市某公司，非法获利1.2万元。
在另一起由河北邯郸法院审理的案件中，犯罪分子冒用他人身份，并利用AI换脸技术通过了个人实名认证，批量注册百家号等平台账号进行倒卖，还注册了京东白条平台借贷以充值话费。
普通人也更容易遭受被造谣和诽谤的风险。中国裁判文书网2024年8月收录了一则杭州互联网法院审理的案件。判决书显示，虞某某自2021年起，在境外社交网站创建了“女神合成视频图试看群”等6个社交群组，在其中发布千余个淫秽视频和图片。群组成员合计2000余人，单人的入群费用为198—498元不等。
其中部分视频和图片是他利用AI换脸软件，将从互联网等渠道收集到的被编辑人人脸信息与部分淫秽视频中的主体人脸信息进行替换合成而制作。在聊天记录中，虞某某承诺可以定制，无论是明星还是生活中的女生，“只要是能看到的脸都能换”，5分钟的视频收费300元，30分钟的视频收费500元。
张文平表示，未来，随着伪造水平的提升，现有的信任验证体系可能会进一步崩塌，还可能出现实时数字勒索、制造假新闻进行市场或政治操纵、司法证据污染等新型乱象。
“技术趋势已不可阻挡，除了发展检测技术，我们也必须加快立法，并加强向社会公众科普有关AI技术的风险及法律知识。”张文平说。
（文中张小药为化名）
记者：王诗涵
（wangshihan@chinanews.com)
编辑：闵杰
热门跟贴