Facebook充斥着煽动针对穆斯林美国人施暴的仇视伊斯兰人工智能内容,“我们要来了。”本月早些时候,持激进民族主义立场的白人民族主义者杰克·朗在密歇根州迪尔伯恩的一场和平宗教游行中现身。他手举“驱逐1亿穆斯林”的标语,显然不怀好意。

打开网易新闻 查看精彩图片

朗是密歇根阿拉伯裔美国人社区的长期挑衅者,曾因参与1月6日国会冲突事件而被判入狱4年。他果然在现场与一小群愤怒的人发生冲突,最终导致3人被捕。朗的目的显然是制造纷争,而这场冲突也成为他和激进保守派支持者所谓“美国正在伊斯兰化”的证据。迪尔伯恩因其大量阿拉伯裔居民,成了他们的显眼目标。

事后,朗宣布将举行一场“基督教十字军进军迪尔伯恩”活动,并发布了一张人工智能生成的海报,图中基督教骑士拔剑冲向一群穆斯林。十字军东征是西欧基督徒持续数百年的宗教征服行动,期间曾对数以千计的穆斯林、犹太人和东正教基督徒造成严重伤害。

打开网易新闻 查看精彩图片

这则帖子写道:“要么十字军东征,要么被取代!”在Facebook上,关于朗这场“十字军游行”的消息迅速扩散,随之而来的是大量令人不安的帖子。这些帖子不仅为种族主义行动叫好,还有的直接鼓动对穆斯林美国人实施暴力。一名朗的支持者在Facebook上写道:“密歇根的人,你们别再像一群懦弱的人一样了,赶紧对迪尔伯恩做点什么。别搞错了,这就是发生在美国土地上的攻击……要是他们跑到我的镇上、闯到我的地盘上这么干,他们肯定得装在尸袋里离开。”

随着朗被驱离现场的消息扩散——他竟将此形容为“石刑”,借用了某种死刑方式的说法——事件逐渐被扭曲成一个虚构故事:一个无辜者被愤怒的穆斯林杀死。原本和平的游行被抽离背景后,被描述成一场暴力的反基督教冲突。一名印第安纳州居民在Facebook评论中写道:“他们把一个基督徒用石头砸死了。这个人只是出现在一场穆斯林反基督教抗议现场,结果媒体还反过来想把这件事压下去。”但事实是,没有人死亡,袭击朗的人也很快被逮捕。

打开网易新闻 查看精彩图片

巧合的是,这场愤怒情绪爆发的时间,正好赶上南达科他州的斯特吉斯摩托车集会。这是一场带有爱国主义色彩、吸引数十万摩托车爱好者参加的聚会。没过多久,朗最初的号召就被大量经过人工智能加工、内容混乱的帖子淹没。这些帖子呼吁斯特吉斯的参与者骑车前往迪尔伯恩,终结他们口中理所当然的“穆斯林疯狂”。

Facebook上一则人工智能生成的帖子写道:“显然,从斯特吉斯出发的摩托车手到密歇根州迪尔伯恩集合参加反伊斯兰抗议,路程只有665英里。”一段反穆斯林视频使用了人工智能生成的迪尔伯恩警察局长伊萨·沙欣的图像,获得了600多条愤怒评论,呼吁“爱国者”去“夺回密歇根”,并咒骂穆斯林。

打开网易新闻 查看精彩图片

其中一条评论写道:“我们已经受够了这些侵占我们美丽国家的蟑螂!!!是时候把每一个moslim原文如此男人、女人和孩子都清除掉,统统送出我们的国家!!!趁他们还没把这里变成他们那种第三世界粪坑之前!!!”不出所料,把斯特吉斯和迪尔伯恩捆绑起来的号召,几乎成了Facebook上最种族主义用户的兴奋剂,他们毫不掩饰自己的仇视伊斯兰意图。

一名用户怒称:“迪尔伯恩还藏着多少这样的人?迪尔伯恩在窝藏恐怖分子和罪犯。迪尔伯恩的‘市民’全都是靠欺诈待在这里的。我们要来了。通过渗透进行的入侵。到此为止。8月18日。”另一名评论者写道:“迪尔伯恩发生的事太可怕了。说实话,我希望那些骑手到场时全副武装。”随后他又鼓动暴力:“没有一个人在乎你……这值得被清除。

另一则人工智能生成的帖子则展示了看似机器人化的“十字军战士”持枪的画面,并附上号召人们前往迪尔伯恩集结的“武装动员”信息。在记者提供了密歇根州相关暴力号召帖文的具体例子后,Facebook母公司Meta回应称,可参阅其“仇恨行为”政策。该政策写道,Meta“保护难民、移民和寻求庇护者免受最严重的攻击……但允许针对移民政策的评论和批评”。

打开网易新闻 查看精彩图片

Meta似乎删除了记者标记的部分帖子,但仍保留了其他一些内容,包括那条声称有人被“石刑处死”的帖子,以及把穆斯林称作“蟑螂”的帖子。这些广泛传播的仇恨言论和暴力号召,让人想起Facebook历史上的类似事件:在平台以互动为导向的算法推动下,带有政治动机的虚假信息曾煽动反动用户诉诸暴力。

其中包括1月6日事件。这场政治性冲突受到Facebook上大量虚假信息传播的推动,朗也因此被捕,不过后来在唐纳德·特朗普第二任期内获得赦免。更极端的例子则是2017年的罗兴亚种族灭绝。当时,Facebook上泛滥的种族主义内容导致缅甸针对穆斯林的族群暴力急剧升级。

由于目前这场风波主要仍在数字空间中发酵,8月18日当天的实际集会将如何发展,眼下很难判断。无论如何,其后果都远不止一场仇视伊斯兰的集会——那些新近被激进化的人,很可能还会在未来很长时间里继续传播他们的偏见。