智东西（公众号：zhidxcom）
编译程茜
编辑心缘
智东西5月21日消息，今日，据外媒报道，全球票房最高女演员、《复仇者联盟》系列电影中“黑寡妇”扮演者、被影迷称为“寡姐”的斯嘉丽·约翰逊（Scarlett Johansson）发表声明，OpenAI GPT-4o中使用的声音之一Sky与斯嘉丽声音极为相近，斯嘉丽对OpenAI此举感到“震惊”和“愤怒”，因此她的律师联系了OpenAI，要求撤下Sky。
▲斯嘉丽声明全文
昨日晚间，OpenAI宣布撤下GPT-4o语音交互功能中的“Sky”声音，并用另一种名为“Juniper”的语音代替。OpenAI在声明中明确指出：“我们认为AI声音不应该刻意模仿名人独特的声音——Sky的声音不是模仿斯嘉丽·约翰逊，而是属于不同专业女演员使用她自己自然说话的声音。”
▲OpenAI声明部分截图
但对于Sky音色是否与斯嘉丽相近，网友众说纷纭，有人认为这纯属巧合，还有人认为OpenAI先训练了类似斯嘉丽的声音，在遭到拒绝后稍作修改就进行了发布。
在OpenAI撤下Sky前，有网友使用GPT-4o制作了一段用Sky朗读斯嘉丽声明的音频，讽刺意味拉满。
//oss.zhidx.com/uploads/2024/05/664c09a4166bf_664c09a40a5da_664c09a40a5b3_TxLx95oGC4nwxGZo.mp4
一、巧合元素过多，发布前两天Altman再次邀请，未获回应Sky就已上线
去年9月，OpenAI CEO Sam Altman就向斯嘉丽发出邀请，希望她能为ChatGPT配音，当时，Altman给出的理由是，他认为让斯嘉丽为ChatGPT发声，可以弥合科技公司和创意人员之间的差距，并帮助消费者适应人类和AI的巨大变化。
经深思熟虑与个人原因考虑，斯嘉丽决定不参与该项目。
但上周OpenAI重磅更新的演示中，GPT-4o语音与用户实时交互的功能中提供了五种声音，名为“Sky”的声音与斯嘉丽声音极为相近。她在声明中提到，甚至她的家人、朋友都很难分辨。
并且，在GPT-4o演示发布的前两天，Altman还联系了斯嘉丽的经纪人请她重新考虑配音事宜，但在他们再次联系之前，“Sky”就已经发布了。
斯嘉丽说：“当我听到发布的演示时，我感到震惊、愤怒，难以置信Altman先生会追求一个听起来与我如此惊人相似的声音。”
昨天，OpenAI宣布暂停使用Sky，同时在声明中明确提到，Sky的声音不是模仿斯嘉丽，而是属于不同专业女演员使用她自己自然说话的声音。
并且还提到，OpenAI聘请的配音演员在去年6、7月时飞往旧金山进行录音，于9月25日就将声音发布到ChatGPT。去年9月正好是Altman向斯嘉丽发出邀请。
在GPT-4o当天，Altman在社交平台X上发了一条“Her”。这部电影中，斯嘉丽为其中的AI角色配音。Altman去年在旧金山Dreamforce 2023上就提到，Her是他最喜欢的电影。
二、斯嘉丽呼吁深度造假立法
斯嘉丽在声明中概述了与Altman、OpenAI此前交涉的过程，并在结尾处呼吁要针对深度造假内容进行适当立法，确保个人权利得到保护。
以下为斯嘉丽声明的完整编译：
去年9月，我收到了Sam Altman的邀请，他想雇我为目前的ChatGPT 4.0系统配音。他告诉我，他觉得通过我为整个系统发声，可以在科技公司和创意人员之间架起一座桥梁，帮助消费者适应人类和AI的巨大转变。他说他觉得我的声音会让人感到安慰。
经过再三考虑和个人原因，我拒绝了这个提议，九个月后，我的朋友、家人和公众都注意到这个名为“Sky”的最新系统听起来多么像我。
当我听到发布的小样时，我感到震惊、愤怒和难以置信，Altman先生会追求一个听起来和我如此相似的声音，以至于我最亲密的朋友和新闻媒体都分辨不出其中的区别。Altman先生甚至暗示这种相似之处是故意的，他在推特上发了一个词“Her”–指的是我在电影中为聊天系统萨曼莎配音的电影，萨曼莎与一个人类建立了亲密关系。
在ChatGPT 4.0演示发布的前两天，Altman先生联系了我的经纪人，请我重新考虑。在我们连接之前，系统已经发布了。
由于他们的行为，我不得不聘请法律顾问，他们给Altman先生和OpenAI写了两封信，陈述了他们所做的事情，并要求他们详细说明创造“Sky”声音的确切过程。因此，OpenAI不情愿地同意删除”Sky”的声音。
当我们都在与深度赝品作斗争，保护我们自己的肖像、作品、身份时，我相信这些问题值得绝对澄清。我期待着以透明的方式解决问题，并通过适当的立法，以帮助确保个人权利得到保护。
三、网友众说纷纭，Altman再次站上舆论风口
对于这一事件，OpenAI宣布暂停Sky声音的推文下面，有网友在为Sky声音的配音演员抱不平，认为OpenAI撤下Sky这一热门声音是错误的决定。
并对OpenAI已经明确指出非斯嘉丽声音了还选择撤下Sky表示不解。
还有网友猜测，OpenAI先训练了类似斯嘉丽的声音，然后希望与她达成协议使用，遭到拒绝后进行了稍微修改。有网友甚至认为OpenAI可能都没有费心修改这一声音，而是直接进行了发布。
知名AI喷子马库斯直接将矛头指向了Altman：“OpenAI董事会是对的，即使在小事上，Altman也不是一贯坦诚。”
还有网友提到了Altman掌舵后对OpenAI的影响：“这份声明中所描述的傲慢和缺乏判断力表明，OpenAI董事会现在让Altman掌舵后遇到了大问题。”
更有网友直接将OpenAI的经历一句话总结：没有戏剧性，OpenAI就一无是处。
结语：深度造假技术门槛变低，AI安全立法迫在眉睫
通过语音模仿知名人物的深度造假技术迅速扩散引发了人们对虚假信息的担忧，此前有用户在电话中使用美国总统乔·拜登的AI声音试图误初选选民，还有利用这项技术在社交媒体上诈骗等。
与此同时，OpenAI近日被曝超级对齐团队分崩离析，团队负责人OpenAI联合创始人、首席科学家伊尔亚·苏茨克维（Ilya Sutskever）与杨·莱克（Jan Leike）双双离职，OpenAI高管第一次公开声称OpenAI要将产品置于安全之上。
这无疑都加剧了人们对拥有AI顶尖技术OpenAI的担心，该公司未来将如何开发新的技术，尤其是使用哪些数据来训练AI模型以及是否愿意考虑人工智能的风险，目前已经成为这家AI顶流创企头上的巨大谜团。
技术的发展需要法律的约束，正如斯嘉丽在声明中提到的，以透明的方式解决问题，并通过适当的立法，才能确保个人权利得到保护。
热门跟贴