颠覆，是最常用于形容AI的词，各行各业都在拥抱AI的同时不得不引发思考：按这个速度，AI很快就能彻底改变诸多行业多年以来的运行逻辑，会创造很多新机会，也会打破许多旧秩序，可面对如此多以假乱真的内容，AI行走的边界又应该在哪儿？

01

Sora冲击波，AI引领新一轮行业变革

“我们认为Sora的出现相较于其他的“文生视频”模型，是一个非常大的跨越，已经到了实际生产力工具的阶段。”——国盛证券计算机行业 首席分析师 刘高畅。

相比于GPT刚刚破圈时大众的好奇与茫然，如今Sora一经亮相，市场就已经找到它未来的商业路径，而目前主流的观点是Sora的问世将对影视、视频、广告等行业或将带来不小的冲击。

Sora的出现意味着编剧、摄影、特效等影视行业传统角色都将被重构，谁会使用GPT和Sora，谁就将掌握新的生产力工具。尤其是短剧行业，这1分钟的文字转视频，恰好就是目前短剧每集时长，有没有可能你输入每集脚本后，Sora直接生成逼真剧集？

借助Sora这样的工具，将灯光、布景、群演等“简单步骤”交给AI完成，制作一部电影的时间和资金可能只需以前的1/10，类似“赛博朋克风格城市中的一场情侣邂逅”的视频拍摄需要用到特殊技巧，现在只需要输入一段充满想象力的文字即可，“第一部AI短剧”或许要不了多久就会出现。

而在广告行业，Sora可以根据品牌需求和营销目标，快速生成高质量的广告。内容创作的方式变革后，文学创作领域也将迎来复兴，小说可以直接生成动漫、电视剧。视频内容集中爆发，自媒体行业也将迎来重新洗牌。随着技术的不断深挖，未来Sora会将在更多领域得到推广应用，随之而来的则是一系列与版权、伦理和法律有关的问题。

02

虚实幻境，深度伪造隐患、

“Sora之后，现实将不再存在”——2024年开年，中国香港警方透露了一场涉及深度AI造假技术的复杂骗局，一家跨国公司的香港办事处遭受了高达1.8亿元的重大财务损失，引发市场高度关注。

据香港警方透露，这场高达1.8亿元的骗局以该公司首席财务官和其他员工的数字重建版本为特色，他们出现在视频电话会议中，指示员工转移资金。这家跨国公司的财务人员被冒充该公司驻英国首席财务官的人要求进行所谓的秘密交易，而最初的怀疑被深度伪造技术所打消。中国香港警方表示，这已经不是第一起严重使用该技术的案件了，骗子利用AI换脸与声音模仿技术修改公开视频和其他镜头，以骗取人们的钱财。

Sora的出现，无疑进一步加深了市场对深度伪造的担忧，毕竟在曝光的demo中，Sora不仅能准确呈现细节，还能理解物体在物理世界中的存在，并生成具有丰富情感的角色，当以往的“AI感”不复存在时，普通人很难短时间分辨出影音画面的真假。

当前，各短视频平台上不是有很多肤白貌美、普通话地道的“俄罗斯美女”吗？她们热情，也热爱中国文化，为视频打上“俄罗斯女孩在中国”“中俄友谊”之类的标签，为观众朋友带来“家乡特产”的牛筋肠、羊奶粉、巧克力、手工皂。然而，如果不是平台标注或账号运营方刻意虚化模糊背景，有多少人能一下看出她们均是AI打造的？

除针对钱物的诈骗，AI干预选举的现象已经出现。在美国，1月新罕布什尔州初选投票期间，有选民称接收到了模仿美国总统拜登声音的人工智能机器人电话，劝阻他们不要投票。这引发了监管和法律的抵制，美国一些州立法者正在起草法案来规范人工智能生成的政治内容。

在欧洲，2023年11月斯洛伐克大选前几天，人工智能生成的录音冒充一名候选人，讨论提高啤酒价格和操纵选举的计划。录音在社交媒体上传播后，引起当局核查。

政客也开始尝试用这项技术与选民沟通。2月初的巴基斯坦举行国民议会选举上，该国两个前总理伊姆兰·汗以及纳瓦兹·谢里夫双双宣布胜选。正在监狱中的伊姆兰·汗还使用人工智能制作的“真人讲话”视频宣布胜利消息，引发外界关注。自入狱以来，伊姆兰·汗一直用人工智能合成信息与选民沟通。

随着AI技术的不断突破，这类深度伪造的事件只会越来越多，以Sora为地表的AI视频更会让这个问题变得复杂化。

03

版权，AIGC时代的达摩克利斯之剑

从AIGC概念诞生之初，版权就一直都是热议的焦点，无论是“以ChatGPT为代表的文本创作”“以Midjourney、Stable Diffusion为代表的图像创作”或是“以Runway、Sora为代表的视频创作”，在创作过程中涉及大量内容，这自然引发了版权问题。

一方面，AI在训练过程中可能使用了受版权保护的内容，这引发了关于如何合法使用这些内容的问题。另一方面，由AI生成的内容本身也可能侵犯他人的版权，尤其是当它们与现有作品相似时。

去年好莱坞编剧和演员大罢工的关键谈判点就是人工智能的适用范围，这一问题尚未真正得到解决。如果Sora作为创作辅助工具，其生成视频的版权是否受到保护，训练素材是否存在侵权责任，这些疑问会让担心卷入纠纷的好莱坞片方采取谨慎态度。

目前看来，包括Sora在内的AI工具有可能还是在项目前期使用，例如快速生成概念图、角色造型和分镜动画，帮助创作者挑选方向，但如果某个有趣的概念角色、场景真的被选中用于实拍，无论是电影、电视还是游戏制作，依然面临侵权索赔和版权保护追溯的风险。

04

主动监管，用规则约束AI

AI内容制作，让现实与虚拟的界线变得模糊，内容真实性、版权、隐私、数据、安全等问题纷至沓来。社会需要一套完善的政策、法律和伦理规范来应对，确保技术发展不脱轨，保护每个人的利益。OpenAI去年就曾发布公告，宣布启动全球招募“红队”网络成员，旨在引入外部力量，提前挖掘出AI系统存在的缺陷和风险。而在此之前，已有相关领域专家呼吁，国际社会应共同推进人工智能监管，以确保其安全性。

同时，面对AI技术飞速迭代，监管体系难以及时、完善对其进行约束的问题，包括中国、美国、英国和欧盟在内的28个国家和地区，于2023年11月，在首届人工智能安全峰会上签署《布莱奇利宣言》，同意协力打造一个“具有国际包容性”的前沿人工智能安全科学研究网络，以对尚未被完全了解的人工智能风险和能力加深理解，被不少人看作是“以魔法打败魔法”的尝试。

总体而言，尽管Sora是一次非常重大的飞跃，但“硬币有两面”，它也存在被滥用的可能。当“懂物理”的生成视频延长到一分钟乃至更长时间，人们看到的东西或许无法作为判断的依据，“眼见为实”也将成为过去式。针对业界的担忧，美国联邦贸易委员会（FTC）2月15日提出了禁止使用AI工具冒充个人的规则。FTC表示，它正在提议修改一项已经禁止冒充企业或政府机构的规则，将保护范围扩大到所有个人。OpenAI内部仍在开展模型伦理侧的对抗性测试，比如错误信息、仇恨内容、偏见内容、色情暴力等，会在文本输入时被拒绝。

无论如何，AGI这一“潘多拉魔盒”正在被打开，人们或许应该尽快学会“虚实之间”的生存之道。

邮发代号：77-19

单价：8元，年价：408元

编辑｜张毅

审核｜吴新

爆料联系：cpcfan1874（微信）

壹零社：用图文、视频记录科技互联网新鲜事、电商生活、云计算、ICT领域、消费电子，商业故事。《中国知网》每周全文收录；中国科技报刊100强；2021年微博百万粉丝俱乐部成员；2022年抖音优质科技内容创作者