“处理时间很短,仅需 10 秒钟。”
德国艺术家 Mathias Vef 和设计师 Benedikt Groß 合作设计了一款 “ 深度 伪造 相机 ” : 无论 有没有 征得拍摄对象的同意,它都能立即脱光拍摄对象的衣服。
这款名为 NUCA 的相机是一种消费级产品大小的设备,使用 AI 可在短短几秒钟内为几乎任何穿有衣服的人生成裸照。
当然,这款袖珍相机明显侵犯了隐私。不过据《Fast Company》杂志报道,Vef 和 Groß正在利用这个噱头向极为广泛的受众传达一个讯息:生成式 AI 在如何侵蚀现实世界的结构本身——这个引人注目的观点用煽动性的推销方式予以表达。
项目网站写道:“NUCA已经引发了各种各样的反响。这个项目引发了公众讨论 AI 具有的潜力,强调知情权、算法公平性以及 AI 生成的图片给社会带来的影响。”
正面全裸
现有款式的 NUCA 相机是一部重 15 盎司的紧凑型相机,由三维设计和打印的部件制成。嵌入式智能手机捕捉图像后,将其发送到 Stable Diffusion 引擎。AI 模型将实际拍照对象的脸孔添加到 AI 生成的正面全裸人体上。
Vef 告诉《Fast Company》:“处理时间很短,仅需 10秒钟。其中一个挑战在于缩短生成图像的时间。我们使用的工具以唾手可得的工具为主,但非常高效地将它们结合起来并做入到一个切实可用的设备中却是从未有过的壮举。”
Vef 和 Groß 无意侵犯任何人的隐私。目前,NUCA 只不过是一个切实可用的原型,主要是为艺术表达而设计。他们俩计划今年夏天在柏林的展览会上展示相机原型。
尽管发人深省,但相信我们很快就会看到类似的消费级产品出现。生成式 AI 技术已走过了漫长的道路,已经成功地越过了神秘谷,可以生成真人和假人的逼真图像。
这已经造成了巨大的混乱。此前,流行音乐天后 Taylor Swift 的色情深度伪造照片开始在社交媒体上疯传,引发了广泛的愤怒。未成年女孩的深度伪造照片也在学校里到处流传,这给人们敲响了警钟。
简而言之,Vef 和 Groß 正在通过巧妙的推销来正视一个非常现实的问题,我们有必要听从他们的警告。
热门跟贴