2017年，人工智能（AI）一次次让人类惊掉下巴。AlphaGo和Libratus分别击败最强的人类围棋和扑克选手。虽然这些具有里程碑意义的胜利彰显了人工智能研究在最近几年取得的惊人进展，但仍有很多人对这种新兴技术的总体成熟度持怀疑态度。2017年，人工智能也接二连三出糗，进一步加剧了他们的怀疑。
现在尽管我们大多数人看好人工智能，但是我们也必须意识到一些新技术经常以人类不会犯错的方式出错。本文梳理了2017年度10个值得注意的人工智能失败的案例，“人工智能”也有“人工智障”的时刻。
10 “最安全”Face ID被150元面具攻克
iPhone X的面部识别技术Face ID号称迄今为止最安全的人工智能激发方式。苹果曾夸下海口，称Face ID被愚弄的几率只有百万分之一。打脸的是，越南公司Bkav只用了一个面具便攻下了Face ID的城池。这款3D打印面具售价150美元，采用塑料、硅胶、化妆品和图片制作。Bkav愚弄Face ID的过程可谓轻松加愉快，只需扫描测试对象的面部，而后用3D打印机打印出脸模，再粘上眼睛和嘴巴图片以及硅胶制成的假鼻子，剩下的就是成功刷脸。Face ID被攻克让整个行业陷入震惊，同时也加剧了对消费型设备保密性和人工智能安全性的担忧。
9 Echo半夜自嗨，被邻居报警
Amazon Echo受到很多人的追捧，被誉为最强大的智能语音助手之一。但没有任何东西是完美的。一名德国男子外出期间，他那空守家门的Echo被意外激活，半夜时播放吵杂的音乐，吵醒了邻居。邻居报了警，警察破门而入，关闭了自嗨的Echo。更有趣的是，警察还换了门锁，导致男主人回家时打不开门。
8 脸书机器人自创语言聊天，惨遭关闭
7月，脸书的两个聊天机器人用人类无法辨认的语言聊天，最后被脸书关闭。糗事一出，媒体纷纷进行报道。随后，有关一种秘密超智能语言的谣言满天飞，像洪水一样淹没了各大论坛。直到脸书站出来澄清，称这一次的诡异交流都是语法编码疏忽惹的祸，谣言才最终平息。
7 自驾驶巴士开工，首日就撞车
11月，一辆自驾驶巴士在拉斯维加斯上演处女秀，魔术师佩恩和泰勒以及其他明人成为首批体验者。不幸的是，短短两小时后，这辆巴士便与一辆货车相撞。虽然从技术上说，这起交通事故不应由自驾驶巴士负责——据警方说是货车的责任——但乘客们纷纷吐槽，称所谓的智能巴士根本不智能，在货车缓慢靠近时并没有及时避让。
6 发送枪支表情，谷歌Allo回复穆斯林女性表情
在使用谷歌Allo时，美国有线电视新闻网的员工发现，如果对方发来的表情是一把手枪，Allo推荐的回复表情居然是戴头巾的女性，这一表情一般指代的是穆斯林女性。这件糗事让谷歌陷入尴尬之中。他们向公众保证，问题已经解决，并向公众道歉。
5 双胞胎骗过汇丰语音识别ID系统
汇丰银行的语音识别ID是一个人工智能安全系统，允许用户通过语音命令访问自己的账户。尽管汇丰声称这一系统的安全性与指纹ID不相上下，但英国广播公司一名记者的双胞胎兄弟却用事实，打了汇丰的脸。双胞胎中的一个通过模仿另一人的声音，骗过语音识别系统，顺利访问兄弟的账户。据说，这个哥们一共尝试了7次，才最终攻克这个系统。汇丰给出了立竿见影的解决方案——3次登录失败便锁定账户。
4 谷歌人工智能错把步枪当成直升机
麻省理工学院的一支研究小组只是略微调整了一下步枪照片，便成功愚弄谷歌云视觉API，让它把步枪误认成直升机。他们使用的方法被称之为“对抗样本”，通过人眼无法察觉的修改，诱骗电脑对图片进行错误分类。过去，对抗样本只有在黑客了解目标电脑系统的基本机制时才能奏效。麻省理工学院更进一步，在没有获取这种信息的情况下便把系统耍得团团转。
3 路牌戏耍自驾驶汽车，上当率100%
研究人员发现只需用油漆或者胶带对停止标志进行细微修改，便能戏耍自驾驶汽车，让它们对这些标志进行错误分类。测试中，他们将“love”和“hate”两个单词放到停车标志上，自驾驶汽车的机器学习系统将其误认为“限速45”，错误率达到100%。
2 人工智能臆造颜色名称，居然起名“银行屁股”
机器学习研究员贾内尔·沙恩训练了一个神经网络，用以生成新的油漆颜色，同时给每个颜色配上合适的名称。产生的新颜色很令人愉悦，但名字却让人贻笑大方。虽然用颜色名称数据进行了几个迭代的训练，神经网络却给天蓝色取名为“灰色耻骨”，深绿色取名“狂暴棕”，深粉色取名“银行屁股”。看来，这个神经网络真的是“神经了”。
1 Alexa自作主张，说下单就下单
亚马逊的虚拟助理Alexa让网购更加方便快捷，但太方便了也容易出事儿。1月，圣地亚哥新闻频道CW6报道称一名6岁小女孩对Alexa说了句“想要一个玩具屋”，CW6马上下单，花了170美元买了一个玩具屋。更让亚马逊感到尴尬的是，事情并未就此打住。电视直播时，主持人重复了小女孩的话，说：“我很喜欢这个小姑娘的话，‘Alexa给我买个玩具屋’。”结果，一些观众家里的Alexa设备居然也被激活了，自作主张开始订购玩具屋。
本文为未来图灵（futureturing）独家翻译文章，转载请申请授权并注明来源。
编辑：Cortana
热门跟贴