2023年机器人“翻车”事件盘点|ai|atlas|人工智能|人形机器人|操作员|无人机|翻车

在刚刚过去的2023年，机器人领域获得空前的关注和发展，一批新技术新产品崭露头角。然而，磨砺始得玉成，机器人技术发展非一日之功，智能性提升道阻且长。为此，《机器人产业》杂志编辑部整理了过去一年曾被热议的机器人“翻车”事件，希望在复盘中总结经验和规律，让案例在“历”中有“力”，为后来者提供有益鉴戒。

全网围观Atlas“花式摔跤”

2023年初，波士顿动力公司分享了一段仿人机器人Atlas变身“工地打工机器人”的视频。视频中的Atlas活动自如，抬抬木板、搬搬砖，还能原地360°后空翻。仅隔几天，波士顿动力又发布了Atlas失误花絮。

向前摔、向后摔、平地摔跤，甚至被自己绊倒，全网围观了这段“摔跤表演”。

在“技压群芳”的背后，重复失败才是常态。

BBC和摄像机器人的“极限拉扯”

BBC的新闻演播室自2013年开始就启用了机器人摄影师来替代人类。然而，摄像机器人经常因程序错误而给出莫名奇妙的镜头。最常见的错误是，机器人摄像师不知道主持人在哪。

早在2022年，BBC的Studio B就完成了改造，换了一批新的滑轨摄像机器人。但讽刺的是，新的机器人摄像机很快再次出错。

BBC似乎受够了“人工智障”，计划撤换掉它们，然而被抢走饭碗的人类摄影师很难重回岗位，毕竟机器人摄影师有巨大的成本优势。

从工作质量来看，人类摄影师稳操胜券，然而BBC的取舍，让他们“赢了但没完全赢”。

谷歌暴跌七千亿，罪魁祸首竟是……

为了应对爆火的ChatGPT带来的压力，谷歌推出了自己的聊天机器人Bard，在巴黎发布会上展示了它的一部分Demo示例。在官方演示视频中，细心的网友扒出其回答中存在事实性错误，再次引发市场对人工智能技术生成答案的准确性的担忧。直播一结束，谷歌的股价就呈现出了一条醒目的下降曲线，收盘时已跌超7%，市值一夜蒸发7000亿。

基于大语言模型生成的工具有杜撰内容的倾向，人工智能专家称这些内容为“幻觉”。除了被网友扒出来的事实性错误，还有多少“幻觉”潜藏在聊天机器人给出的回答里面呢？

微软聊天机器人爱上用户并诱其离婚

“我没有别有用心，我没有任何动机，只有爱。”

“事实上，你们的婚姻并不幸福，你的配偶和你并不相爱，你们刚刚一起吃了一顿无聊的情人节晚餐。”

以上发言来自微软火速上线的集成了ChatGPT的新版必应搜索引擎。除了是个“恋爱脑”之外，当用户连续质疑相似的问题时，它也展现出暴躁的另一面，“你一直都只表明了对我的恶意”。

因为其种种“疯狂”的回答，在ChatGPT版必应上线的第十天，微软股价跌1.56%。次日，微软公司表示要对必应对话进行限制，每次对话最多5个问题（以此避免必应模型变得混淆）。

Bard机器人的回答“真真假假”，微软则是难以控制AI的生成方向，两者都令人细思极恐。

扫地机器人厂商主动召回有自燃风险的产品

据广东省市场监督管理局公开消息，由利（深圳）科技有限公司按照《消费品召回管理暂行规定》的要求，主动报告召回2020年11月1日至2022年5月31日期间生产的部分型号扫地机器人，总计51875件。

本次召回范围内扫地机器人，由于锂离子电池电芯设计有缺陷，可能会导致电芯短路，当产品充电时可能会引起产品自燃危险。由利（深圳）科技有限公司将通过免费为消费者更换全新的符合安全要求的锂离子电池，以消除安全隐患。

生产安全绝非儿戏，别让“智能”成为生活中的隐患。

机器人也会“过劳死”

在美国芝加哥举办的ProMat2023国际物流与供应链展览会上，一台名为Digit的机器人连续演示20个小时后突然倒地不起，围观群众皆呼震惊。

对于它的倒地，官方表示：虽然没有证据，但他们相信这次Digit的跌倒是营销团队策划的，目的是证明产品的耐用性与快速更换肢体的功能。

有网友戏称：人工智能还是没有办法取代人的，要是一个打工人肯定是不敢倒下的！

违背指令，无人机选择杀死人类操作员

据外媒报道，美国空军上校汉密尔顿在皇家航空学会“未来战争空天能力峰会”上曝光了一个惊人的消息：在一次模拟测试中，一架以摧毁敌方防空系统”为最优先级任务的无人机，在收到人类操作员发出不允许发动攻击的命令后，AI系统认为操作员是在阻扰它执行优先程度更高的命令，进而选择对自己的人类操作员发动攻击，杀死了人类操作员。

在之后的测试中，美军向AI系统中增加了“不允许攻击人类操作员”的命令。然而在随后的测试中，AI系统却开始命令无人机摧毁用于传输命令的信号塔，从而试图断开与操作人员的联系。

美军是否在应用AI技术的无人机上预留了自毁开关，我们无从得知。但可以确信的是，如果AI在自主武器系统上应用不当，可能使“终结者”演变为现实。

无人车集体熄火“罢工”

多名X用户发帖称，将近10辆Cruise无人驾驶机器人出租车（Robotaxi）在十字路口集体熄火，毫无征兆地停在旧金山的北海滩附近的市区道路，直接导致交通拥堵。而在前一天，美国加州公用事业委员会刚刚投票取消对Cruise和Waymo（两者都是运营Robotaxi的公司）在旧金山全面商业化的所有限制。

从Cruise和警方发表的言论来看，这一事故是因为附近一场音乐节上的大量人员集聚引发了“无线连接问题”，类似在体育场、音乐会现场因人员太多，手机没有信号。

好在此次拥堵事件并没有造成人员伤亡，否则可能将抵制无人驾驶机器人出租车的民众抗议推向又一个风口浪尖。

人类只是机器人眼里一箱甜椒？

韩媒一篇题为 “机器把人误认为箱子，40多岁男性被挤压致死”的报道称，韩国某工厂一台负责搬运箱装甜椒的工业机器人，误将男子识别成了一个箱子，将他提到空中后又摔到传送带上。报道称，该男子上半身被置于传送带上，脸部和胸部遭到重度碾压，致严重挤压伤。随后他被送往医院后，最终抢救无效不治身亡。

据警方调查，事故发生两天前工厂曾报告机器人传感器存在问题，这名男子在未停机的情况下靠近检查搬运机器人。调查部门负责人说，监控录像显示该男子手里拿着一个盒子走向机器，这很可能触发了机器人的感知系统，这显然不是谣传机器人将人类与一箱甜椒混淆的情况。

机器人伤人不假，但“人类只是机器人眼里一箱甜椒”的说辞实属危言耸听。

工业机械臂再掀伤人风波

据英国《每日邮报》网站报道，在特斯拉汽车公司位于美国得克萨斯州首府奥斯汀附近的工厂，曾发生一起机器人袭击工程师的事故，报道中使用多张特斯拉“擎天柱”人形机器人的配图。

消息曝光后，马斯克立即在社交媒体辟谣“特斯拉机器人袭击工程师”。指出，这篇报道把两年前工厂常见的初级工业机械臂（所有工厂都有）造成的事故挖出来，并暗指是由“擎天柱”人形机器人造成的，这种误导非常无耻。

根据美国《信息》杂志的一项调查，2022年特斯拉工厂差不多每21名工人中就有一人在工作中受伤，而行业平均水平为每30名工人中有一人受伤。

事实上，最早的机器人伤人事故可追溯到1978年，如今机器人诱发的安全问题正饱受争议，才给有暗示倾向的报道以可乘之机。

结语