在2025年底,埃隆·马斯克的X公司推出了Grok这一人工智能聊天机器人的更新,增加了他们所称的“刺激模式”。这一侵入性且易被滥用的更新使用户能够通过输入图像让算法“脱掉”他人的衣物。这导致生成了不请自来的露骨图像,包括儿童的图像。

因此,该更新在许多国家被禁止,并在全球范围内发起了针对这一新功能的运动。现在,欧盟正在对X公司提起法律诉讼,以确定该公司是否通过适当评估和降低与Grok功能相关的风险来保护消费者。

在对调查的声明中,欧盟科技主管亨娜·维尔库宁表示,“对女性和儿童的非自愿的性别深度伪造是一种暴力、不可接受的贬低形式。”他们认为,允许人工智能机器人脱掉他人衣物,包括儿童,是对隐私的侵犯和对安全的公然漠视。

当初始更新推出时,公众强烈反对,因为X平台的动态中充斥着未经同意的人的露骨图片。社交媒体平台上几乎所有被输入到Grok中的人都被赤裸的照片淹没,且这些照片伴随着越来越暴力和性暗示的提示。

尽管新功能明显地允许滥用,埃隆·马斯克选择不撤回更新。相反,他发了一张穿着比基尼的烤面包机的嘲讽图片。在法律上,他通过限制在被认为非法的国家使用Grok脱衣的能力来保护自己。在其他地方,这个功能仍然可以使用。

生成性人工智能的发展,创造的性图像常常带有虐待和暴力倾向,国际上对人工智能图像生成相关法律提出了质疑。目前,这项新兴技术基本上没有监管。然而,随着技术的发展和类似事件的增多,越来越多的人呼吁对其进行限制。

许多受到Grok生成的冒犯性和性别化图像影响的女性已经站出来,讲述她们所遭受的伤害。那些从未在网上发布过任何性暗示内容的人,如今正被一个人工智能聊天机器人剥去衣物和物化。

尽管现在有法律来防止Grok(平台名)对女性和儿童的在线性虐待,但这标志着他们未来使用方式的危险变化。ASMR创作者艾玛在接受滚石杂志采访时,分享了她被X用户针对的感受。

“女性在发布照片时,仿佛被要求放弃自己的身体。她们现在发布的任何内容,都可能被任何人以想要的方式脱去衣物,他们可以随意处理你的照片。”

现在,欧盟正在调查埃隆·马斯克和X的AI聊天机器人Grok,以决定他们在儿童和女性性别化问题上应承担的责任有多大。不过,他的财富很可能会让欧盟对他采取的任何制裁或惩罚失去效力。