网易科技讯9月29日消息，据连线杂志报道，数十年来，在许多科幻小说和电影中，有意识的机器最终都变成了人类。这不禁令我们产生担忧，现实世界中的AI如果继续以当前速度快速进化，将来是否真会出现电影中的场景。

当然，这种威胁可能还需要数十年才能显现，但AI的确已经对现实世界产生真实危险。智能机器人会取代人类工作吗？网络面部识别会毁掉我们的隐私吗？无人驾驶汽车会扰乱我们的道德决策吗？

好消息是，许多开发新一波AI的科技巨头已经意识到，AI技术正吓到人们，这种恐惧担忧必须得到缓解。这也是亚马逊、Facebook、谷歌旗下DeepMind、IBM以及微软等科技巨头成立新行业组织的初衷。这个组织名为“造福人类和社会的人工智能伙伴关系”，专门预防AI失控。

在今天早上宣布成立新行业组织的新闻发布会上，Facebook人工智能研究团队主管雅恩·乐昆(Yann LeCun)表示：“每种新技术都会带来改变，而在很多时候，这种变革会在不理解它的人种产生恐惧。我们成立行业组织的目的之一就是解释和沟通AI的能力，特别是其可能引发的危险和基本道德问题。”

你可能觉得这些言辞听起来有些熟悉，那是因为特斯拉电动汽车公司和美国太空技术探索公司SpaceX的首席执行官伊隆·马斯克（Elon Musk）已经谈论这个问题很多年。去年12月份，马斯克与许多科技界人士成立了名为OpenAI的组织，其目的是解决同样的担忧。但OpenAI从本质上说属于研发机构。

而“造福人类和社会的人工智能伙伴关系”则有所不同。这是个向任何人开放的联盟，旨在促进针对AI性质、目标以及后果进行更广泛的对话。乐昆表示，这个组织将以三种基本方式运行。它将帮助加强研发AI的公司之间的联系。它将收集来自学术界和民间的传统意见，从更广泛的角度看待AI如何对整个社会造成影响。它会向公众发布AI研究进展。它可能推动立法者理解AI，但不会游说政府。

乐昆说，创造一个超越AI研究人员小世界的对话非常重要。我们已经看到，当聊天机器人在Twitter上学习时，发出种族歧视言论。在AI选美大赛中，人工智能认为非洲裔比白人缺少吸引力。在评估某人是否有犯罪危险时，AI系统似乎对非洲裔存在偏见。如果在这些系统发布前，能够有更多样化的眼光审视它，这些行为应该可以避免。

问题是，即使这个组织能够制定出一套AI伦理道德规范，但在有诸多利益相关者的庞大组织中，也很难找到确保这些理想付诸实施的方式。这个组织的信条之一是：反对开发和使用违反国际公约或人权的AI技术，但该组织却没有执法权。

换句话说，如果该组织成员决定公然做些不道德的事情，这个组织对于阻止其行为无能为力。该组织将致力于收集公众意见、分享其工作以及建立最好的实践。

美国肯尼索州立大学哲学教授达米安·威廉姆斯（Damien Williams）说，只是将人们聚集起来并非真的能够解决AI带来的问题。比如哲学等学术界，本身就存在多样化问题。更何况如此之多的不同意见汇聚于此，将会形成庞大的挑战。新组织需要面临的挑战之一就是，需要不断重新评估其思维，而非在进化过程中保持静态的道德和标准。

但是类似Facebook和谷歌这样的科技巨头现在开始关注AI道德和偏见问题，令威廉姆斯深受鼓舞。在理想情况下，这个组织将可帮助建立有关AI、大数据以及算法的新思维标准，这些标准有助于消除有害的假设和偏见。但这也是个艰巨的任务。（小小）