“算法中立”是一句谎言吗?美国最高法院今天宣判了一个案子,最终结论是——他们就是一搞法律的,科技的事儿他们也不太明白。

这事儿还得从2月份的两桩诉讼讲起——

2月22日,美国最高法院审理了一个关于Google的案子,次日,又审理了另一个关于Twitter的案子。

打开网易新闻 查看精彩图片

两个案子有巨大的相似性,最初原告都是一个在恐怖袭击中丧失了亲人的家庭(Google案中,受害人是一位死于2015年ISIS巴黎恐怖袭击的美国留学生;Twitter案中,受害人是一位死于伊斯坦布尔夜店ISIS爆炸案的约旦公民)

两个家庭都认为,YouTube(隶属Google旗下)和Twitter对ISIS的恐怖主义行径难辞其咎。它们要么是通过算法推荐,更精准地将恐怖组织招募广告推给了潜在恐怖分子;要么是任由恐怖分子在社交媒体上开账号、发内容,甚至互相联络。

打开网易新闻 查看精彩图片

比较诡异的是,这两个案子的上诉全都被最高法院接受了,而且放在连续两天开庭,每个庭审都罕见地持续了两三个小时。由于实在太长,开庭时有几个被家长带过来旁听的小孩儿实在没扛住,呼呼大睡,法警只好把他们请出去睡了。

更有意思的是,这两个家庭,聘请的是同一位律师:华盛顿大学法学院教授Eric Schnapper,老爷子七十多了,一个人连续两天马拉松庭审,轮番单挑Google和Twitter的金牌律师。

具体说起来,这两个案子在法律关系上略有区别。

打开网易新闻 查看精彩图片

Google案的争议点是:如果一个互联网平台,使用了算法推荐,而不简单是UGC自由分享,是不是 “避风港原则”就不应该再保护平台公司了?

Twitter案没有涉及“避风港原则”,而是要讨论,Twitter在日常业务中,是否符合《反恐法案》里“明知地对恐怖主义活动提供了实质性帮助”?到底什么叫“明知”,什么叫“实质性”,法庭上快吵翻天了。

1、“避风港原则”是怎么来的?什么是“230条款”和“26字法则”?

玩儿微博的人,大部分都知道有一个“避风港原则”。这来自于1996年美国《通信规范法》的第230条C1款:“交互性计算机服务提供者或者用户,不应被视为其他内容提供者上传的任何信息的出版方或发言人。”

翻译成人话就是——任何大V在微博上发的言,微博都可以说:“这不是我说的,这是他/她说的,有问题别找我。”

这条法律英文只有26个字,因此又被称为“26字法则”或“230条款”。可以说,今天我们用到的几乎所有app,都建立在这26个字基础上。所以,前天开庭,Google律师的第一句话就是:“230条款的26字,创造了今天的互联网世界。”

打开网易新闻 查看精彩图片

2、算法推荐受230条款保护吗?

这是Google案的核心问题。原告那家人认为,230条款都已经36岁了,当时立法者根本没料到今天的算法会这么先进,所以写这条法律的时候,只是针对当时那种消极被动、等着用户上传内容的平台免责的。而算法推荐属于平台积极主动参与了“用户看什么”这个决策,不能免责。

Google律师反驳说,没这事儿,230条款的文字可以涵盖今天的算法推荐。互联网的信息是海量的,从第一天起,各家平台都在想方设法帮助用户“大海捞针”,方便用户,算法推荐只是这种常规服务的迭代,凭什么反而要被告呢?

这件事儿最有意思的是,当年参与撰写“230条款”的两名议员,还给最高法院写了份备忘录,从作者角度阐述了一下“230条款”的本意。

这俩议员说:我们在起草230条款时,考虑到要保护平台的内容分发机制,算法推荐是这种分发机制在今天的迭代,没什么特别的,依然享受230条款的免责保护。

打开网易新闻 查看精彩图片

3、保守派法官狂屠科技巨头?

这几年在美国,攻击还是保护科技公司,已经成了一个党派问题。因为保守派一直抱怨,硅谷的科技巨头普遍偏向自由派,甚至在大选期间都利用社交媒体左右选情,所以保守派一直想收拾科技大公司。

最高法院也是如此。最保守的托马斯大法官,早就在其他案件的异议意见里宣告,是得好好收拾一下230条款了。所以,这次庭审之前,大家普遍预测,保守派大法官估计要对Google大杀四方。

但实际情况是——法官们好像都怂了……无论保守派,还是自由派。

扬言要办了230条款的托马斯大法官,在提问时好像显得反而开始同情Google了。

他问原告方律师:“YouTube在给烹饪爱好者和ISIS爱好者推荐视频的时候,用的是一种算法还是两种不同算法?”

原告方也只得承认,YouTube针对任何用户的算法都是同一种

托马斯:“那我就不懂了。算法推荐出来的视频,都是根据用户自己的兴趣。比方说,喜欢做饭的,可能就不会打开轻爵士乐的视频;如果你喜欢乌兹别克斯坦手抓饭,那你就不会特别看其它地方的抓饭做法视频,比如路易斯安那的抓饭。久而久之,喜欢做饭的,看了更多做饭的视频;喜欢看赛车的,就被推了更多赛车视频;喜欢ISIS的,就老能看到ISIS视频。算法没有摁头安利谁对吧?这难道不是一种中立吗?”

我个人感觉,原告律师回应这个问题时有点儿躲闪。我觉得他完全可以回击:“你给ISIS爱好者和手抓饭爱好者提供同等的便利,这不是中立,这是在助纣为虐啊!恐怖主义内容、种族仇恨内容本来在平台就会被事后限流或删除,它们本来就不该享有跟合法内容同等的分发效率啊。”

打开网易新闻 查看精彩图片

4、诉讼泛滥成灾?

其他大法官,其实也对于惩罚Google、重锤230条款有点儿疑虑。卡瓦诺大法官说,咱们要真的打开这个口子,让平台陪着一起承担责任,那我估计咱们整个数字经济都要完球了。

首席大法官罗伯茨也说:可不么,那简直是创造了一个诉讼的海洋。恐怖主义内容毕竟是少数,但种族歧视、诽谤、仇恨言论,这样的诉讼就该多了去了。

之前很激进的自由派大法官,这次也开始有点儿踢皮球了,觉得这么重大的政策议题,法院不该去当裁判,还是让国会通过立法表个态吧。

奥巴马提名的、之前曾任哈佛法学院院长的卡根大法官,直接对律师说:“您看啊,我们就是个法院,说真的好多科技的事儿我们都不懂,这跟您面对九个互联网大牛完全是两码事儿……”这句话引得哄堂大笑。

打开网易新闻 查看精彩图片

5、给本拉登开银行账户,和给本拉登开推特账户,一样吗?

第二天的Twitter案没有涉及230条款,也不讨论算法中立,只是探讨了Twitter没能及时删除恐怖主义内容,算不算“协助或助长”了恐怖主义行为。

大法官们仍然有种投鼠忌器的心理,怕一不留神,就把美国互联网经济掀桌了。

不过,这个案子里,貌似同情受害人的大法官多了一些。大家其实都在用一些假设性的类比,来试探Twitter的责任边界应该划在哪儿。

“如果给本拉登开一个银行账户,算不算实质性帮助恐怖主义?”

“如果卖了一部手机给本拉登,算不算?要是他根本没用这部手机搞恐怖活动,只用来刷抖音呢?”

打开网易新闻 查看精彩图片

6、下一个,Facebook

今年,可能美国也在整顿资本无序扩张。连续两天分别审了Google和Twitter,四月份又开庭审了一个跟Facebook相关的案子。焦点是:在网上对别人发出威胁信息,什么情况下属于犯罪,什么情况下属于言论自由?

现在,回到开头的场景,今晚2月份的两个案子宣判了,九个大法官都后悔陷进了这摊浑水。判决很鸡贼,由于本案与另一个Twitter案相似,根据Twitter案判决结果,本案家属也无权起诉Google(彻底回避了230条款是否适用于算法推荐这个棘手问题)

其实他们的意思也很明白了“我们就是一学法律的,科技的事情咱实在搞不懂,按祖宗的规矩来。”

但可以预见的是,未来这种案子只会多不会少,总有一天法官大人们会无法逃避责任,需要成为日后判案的那个先例,并正面回答这个问题——

互联网公司需要为算法负责吗?

VIA:樊百乐

延伸阅读:

谷歌和推特被诉至美国最高法,保护伞“230条款”能否被废除?