打开网易新闻 查看精彩图片

TikTok不慎公开了数字人工具的内部测试版，允许用户随意输入任何内容。

TikTok不小心发布了一个链接，用户可以直接访问一款AI数字人工具的内部版本，该版本没有任何限制，用户能够创建几乎可以说出任何内容的视频。CNN最早发现了这一问题，并成功使用该工具生成了一些视频，内容包括一些极端言论或是教唆人们喝漂白水等。TikTok随后撤下了这一版本的工具，而原计划发布的版本仍然可用。

TikTok本周早些时候推出的Symphony Digital Avatars让企业能够利用付费演员的形象来生成广告。这款工具结合了AI配音技术，广告商可以输入脚本，让虚拟人物按照TikTok的规则发言。尽管只有拥有TikTok广告管理账户的用户能够使用这个工具，CNN找到的版本却允许任何个人用户尝试。

打开网易新闻 查看精彩图片

TikTok发言人Laura Perez向The Verge透露，TikTok已经解决了一个“技术错误”，该错误曾让极少数用户在几天内使用了这一内部测试版本。

当CNN发现并测试了这个内部工具后，它生成了一些视频，内容包括一些极端言论和口号，以及教唆人们在错误的日期投票。这些由CNN生成的视频均没有显示AI生成水印，而这本应是TikTok正式版工具的标准功能。

虽然CNN并未将这些视频发布到TikTok，但Perez指出，如果发布，这些内容将会因违反政策而被平台拒绝。尽管TikTok已撤下这一工具的测试版本，但事件引发了公众对于可能滥用数字人工具的担忧，以及TikTok是否已经做好相应的准备。