Google DeepMind推出新的研究小组来调查人工智能伦理，确保我们开发的任何智能系统都符合我们的伦理道德价值观。

打开网易新闻 查看精彩图片

设计台词：他不能做坏事，尤其不能伤害人类

Google的AI子公司DeepMind正在认真对待人工智能伦理。 Google于2014年收购的英国公司今天宣布组建一个致力于人工智能最棘手问题的新研究小组。这些包括管理AI偏见的问题;自动化的未来经济影响;以及需要确保我们开发的任何智能系统都符合我们的伦理道德价值观。

DeepMind伦理与社会（或DMES，作为新团队已被建立）将从2018年初开始就这些课题和其他课题进行研究。该小组目前有8名全职员工，但是DeepMind希望在一年内将其发展到25人左右，该团队有六名无酬的外部“研究员”（包括牛津哲学家尼克·斯托克罗姆（Nick Bostrom），他写下了这本关于AI存在风险的书），并将与进行类似研究学术团体合作，其中包括纽约大学的AI Now Institute以及Leverhulme Centre for the Future of Intelligence。

在宣布该团队的博客文章中，联合负责人Verity Harding和Sean Legassick写道，DMES将帮助DeepMind“探索和了解AI对现实世界影响”。关于这项工作的例子，他们提到了对种族主义的刑事司法算法，以及关于无人驾驶车辆车祸的道德问题的讨论。 Harding和Legassick写道：“如果AI技术要服务于社会，那么它们必须被社会的优先考虑的事情和问题所塑造。

DeepMind在去年与英国国民健康服务局（NHS）的工作受到批评之后，才意识到这些挑战。 DeepMind在2015年与三家伦敦医院进行了交易，其中处理了160万名患者的医疗数据，今年被英国的数据监督机构判定为非法，公司未能通知个人他们的数据被使用。 DeepMind后来表示，它“低估了NHS的复杂性以及关于患者数据的规则”，并聘请了新的独立伦理审查员来审查未来的任何交易。

打开网易新闻 查看精彩图片

DEEPMIND health与NHS合作

虽然DMES的创立是DeepMind正在积极公开地考虑AI如何影响社会的问题，但Deepmind公司将继续面公众对自身工作的对伦理道德的影响。DeepMind公司的内部伦理审查委员会仍然笼罩着神秘面纱，当然，私营公司在尖端技术上工作的透明度有限制，DMES也有可能有能力解决这个问题。-

打开网易新闻 查看精彩图片

人工智能会对人类社会产生什么样的影响？

对于人工智能会对人类社会产生什么影响?欢迎大家在评论中探讨。