上方蓝字关注我们
斯嘉丽·约翰逊对OpenAI的ChatGPT 4.0聊天机器人使用与她相似的声音表示震惊和愤怒，尽管她曾拒绝提供声音。OpenAI已撤下该“Sky”声音，但未解释原因。约翰逊认为，这涉及深度伪造和个人形象保护问题，呼吁透明度和立法保护个人权利。
斯嘉丽·约翰逊本周一透露，尽管她拒绝了OpenAI的请求，提供自己的声音，但该公司还是为他们的新型ChatGPT 4.0聊天机器人使用了一种与她声音“惊人相似”的语音。
当天早些时候，OpenAI宣布将不再使用这种声音，但未说明原因。
“去年9月，我收到了Sam Altman的提议，他想让我为当前的ChatGPT 4.0系统配音，”约翰逊在一份声明中写道“他告诉我，他认为通过我的声音，可以帮助技术公司和创意人士之间建立联系，并帮助消费者适应人类与AI之间重大转变所带来的舒适感。他认为我的声音会让人们感到安心。”
“经过深思熟虑和出于个人原因，我拒绝了这个提议，”她继续说。“九个月后，我的朋友、家人和公众都注意到最新的系统，名为‘Sky’，听起来非常像我。”
OpenAI上周首次展示了其新型ChatGPT 4.0，强调了它在语音聊天中进行对话的能力，这是其许多新功能之一。这项新技术很快就被拿来与电影中所描绘的那种未来主义AI进行了比较，提供了五种声音——包括“Sky”。
在周一的公告中，OpenAI表示“Sky”声音并不是模仿斯嘉丽·约翰逊的声音。公司表示，该声音是由一位专业演员录制的，以及其他仍然可用的声音。出于隐私原因，公司表示不会透露演员的名字。语音聊天功能在5月13日由OpenAI举行的产品演示中被推广，但该功能自2023年9月以来就已经可用。
斯嘉丽·约翰逊在2013年的电影《她》中为一个人工智能聊天机器人配音，OpenAI首席执行官Sam Altman在与公司新的声音产品相关时提到了这一点——约翰逊在她的声明中也提到了这一点。
“当我听到发布的演示时，我对Altman先生会追求一个听起来如此惊人相似的声音感到震惊、愤怒和难以置信，以至于我的最亲近的朋友和新闻媒体都无法分辨，”约翰逊在声明中写道。Altman先生宣布新产品的帖子发布在X上，与产品演示的同一天，仍然在线。她的声明继续说，“Altman先生甚至暗示这种相似是有意为之，他在推特上发了一个词‘her’——这是指我在其中配音的聊天系统Samantha，她与人类形成了亲密关系的电影。”
“在ChatGPT 4.0演示发布前两天，Altman先生联系了我的代理人，要求我重新考虑。在我们能够联系之前，系统已经发布了，”约翰逊写道。“由于他们的行为，我被迫聘请了法律顾问，他们给Altman先生和OpenAI写了两封信，阐述了他们所做的事情，并要求他们详细说明他们是如何创建‘Sky’声音的。结果，OpenAI勉强同意撤下‘Sky’声音。”
“在我们都在努力应对深度伪造和保护我们自己的形象、我们自己的工作、我们自己的身份的时候，我相信这些问题值得绝对的清晰。我期待着以透明度的形式解决，并通过适当的立法来帮助确保个人权利得到保护，”她写道。
OpenAI没有立即回应评论请求。
声音模仿是一项相对较新的技术，近年来发展迅速，允许人们使用软件模仿名人和人物，如总统乔·拜登。这项技术的迅速传播引起了关于虚假信息的担忧，例如一个伪造的拜登声音被用于自动电话尝试误导新罕布什尔州初选选民。
围绕OpenAI如何开发其技术，尤其是关于用于训练其AI模型的数据以及其考虑AI风险的意愿，已经出现了一些日益增长的担忧。
上周，该公司解散了专注于长期AI风险的团队，OpenAI联合创始人Ilya Sutskever和研究员Jan Leike也离开了公司。Leike上周五写道，OpenAI的“安全文化和流程已经被闪亮的产品取代了”。
已有超过2000名
读者加入交流群
我们还在等你
点这里关注我，记得标星哦～
CLICK TO SEE YOU LOOK THE BEST
热门跟贴