导语：在科幻小说中，AI的自我能力是其超智能的重要特征，如今，现实已经成真，谷歌刚刚推出的“Duplex”人工智能系统竟然可以自主打电话，以假乱真的背后是人类对人工智能自主能力的隐忧。
几天前，在谷歌的年度I/O开发者大会上，搜索巨头谷歌发布了一个名为“Duplex”的人工智能系统。该系统能与谷歌助理进行交互，基本上可以同商家进行简单的电话通话，比如安排理发时间、预定餐馆。
图| 谷歌的AI助手正在刺痛人类的伦理神经
然而，这一切并非完全只有积极的一面，接踵而来的就是人工智能所要面对的伦理问题——高度发达的人工智能系统能让人类误以为这台机器就是人类。对此，谷歌公司建议，在使用该产品时，将对所有人公开其机器人的身份。
“Duplex”的最大特点是系统能够进行较自然的声音对话。该系统的程序被设定为有着极快的反应速度，但是交流时，该系统会巧妙地留出“语音中断”，使其听起来更自然。这包括一些口语化的语言，如“嗯”和“呃”。这一切都让此人工系统听起来像一个真实的人，而不是我们通常习惯的呆板的计算机声音。
谷歌为此进行了技术演示，这一切都令人吃惊。第一个例子显示了“Duplex”呼叫发廊并成功进行了预约。第二个例子涉及到一个更复杂的对话，系统调用一个餐厅来尝试预订。在对话过程中，餐厅老板告知系统那个日子不需要预约，“Duplex”竟然完全理解了老板的意思，并对他表示了感谢！
虽然人工智能的高度发达让人感到兴奋，但这种技术能够如此明目张胆地愚弄另一个人，让人以为它是真实的——这一点就足够让人不安了。谷歌公司是否在人工智能的创造上，犯了致命的道德错误？同时，在其推出的阶段中，谷歌是否没有意识到如何让公众接受这一现实，这会是硅谷众多公司真空开发某项技术却完全忽视其社会影响的第一个案例吗？
图| 谷歌Duplex模仿人类发声的启示引发了社会对人工智能的担忧，但谷歌似乎并没有在意到这一点
同时期发声的Yaniv Leviathan和Yossi Matias,他们都是此项目的主要负责人，遗憾的是，他们只关注了产品的技术潜力，并未意识到其存在的社会隐患 。
似乎很少有人意识到该技术在现实世界中会产生的问题，在他们的博客和会议的介绍中，没有提到如何研究披露和鉴别人工智能的技术——即增加人工智能“透明度”的技术。
在大量的博客文章中，唯一提到“透明度”问题的只有寥寥数语：“对我们来说，用户和企业对这项服务的良好体验极为重要，而人工智能透明度是实现此目标的关键部分。在接下来的几个月里，我们会尝试不同的方法来弄清楚这个人工电话系统存在的意义，以更清楚地让企业了解其背景。”
在是否应该将人工智能系统向人类趋同化的问题上，这场公开会议的讨论已经引起了激烈的争议。麻省理工学院(MIT)教授埃里克布林约尔松(Erik Brynjolfsson)在接受《华盛顿邮报》(the Washington Post)采访时表示，“与此相反的事，人工智能研究人员应该让人类尽可能容易地判断他们是在与另一个人交流，还是与机器互动。”
图| 来自推特上的一些对话表明AI的声音不应该模仿人类的音质，AI的身份特征不应该接近人类
普林斯顿大学的Arvin Narayanan建议说:“我们需要一些基本规则。其中一项便是:“图灵红色警戒（Turing Red Flag law）”——机器人应该被设计得更像机器人，它们对自己的定位也应当是机器人。“
在这个问题上，谷歌已经将主流话语推到了风口浪尖。人们除了对电话营销和机器人电话有着明显的担忧，伦理问题在此处也不可小觑。人工智能在与人交流时需要向人类说明自己是人工智能吗?
针对这一新兴的争议，谷歌发布了一份声明，声称将在“Duplex软件使用中全面披露其人工智能身份。
谷歌的一位女发言人向CNET表示:“我们理解并重视谷歌的这些讨论——就像我们从一开始就说的那样，人工智能的透明度极为重要。我们正在对这一特性进行改良，并将其内置于系统之内，确保其人工智能的身份能够及时得到识别。我们在I/O上展示的是一个早期的技术演示，但我们期待在开发产品时加入一些其他反馈。“
也许在不久的将来，以Siri为代表的系列人工智能产品将彻底摆脱其枯燥的电子发音，可以像真人一样自如地进行谈话。但是，这种令人向往的未来，既充满了无尽可能，更充满了未知的危险。
编辑 | 谭冰玥
审校 | 杨子彤 Soybean
致敬科技未来 | 分享才是热爱
热门跟贴