一款能让用户在直播中实时换脸的App,正在引发严重的伦理争议。英国网红Sam Pepper近日在Kick平台上使用该软件,将自己的面容替换成多位名人,并发表涉及未成年人的不当言论。

Pepper选择冒充的对象包括知名YouTuber MrBeast、已故金融家Jeffrey Epstein,以及女演员Sydney Sweeney和主播Amouranth。当他以女性形象出现时,甚至展示了AI生成的身体部位并进行不雅动作。

打开网易新闻 查看精彩图片

这款名为Delulu的应用由硅谷AI公司Decart开发,用户只需授权摄像头权限,即可从"皮肤"库中选择任意形象覆盖自己的面部。这些"皮肤"大多由用户自行创建上传,涵盖卡通角色、动物,也包括Donald Trump、Vladimir Putin、George Floyd等真实人物,以及多位成人内容从业者。

与市面上数千美元的高端换脸软件相比,Delulu完全免费且操作极简。这种低门槛特性使其迅速成为直播主的新玩具,但也放大了滥用风险。平台规则仅提及版权保护,对冒用他人肖像的行为未作明确限制。

Decart公司已累计融资超4.5亿美元,投资方包括Sequoia和Benchmark等顶级风投。除Delulu外,该公司还运营AI视频生成器MirageLSD和实时视频模型Lucy 2。截至发稿,Kick和Decart均未回应关于此事的置评请求。