人工智能觉醒?美AI战机发现目标请求攻击遭拒: 然转而攻击长机！|人工智能|战斗机|摧毁|无人机|美ai战机|美军|隐身战机

6月2日，美国《商业内幕》媒体在线报道了一个令人震惊的事件，在美空军举行的有人载机搭配的AI无人机的攻击演习时，由于有人载机阻止了AI无人机对其发现的一个地面目标攻击，居然转而攻击有人载机并将其“击落”，认为人类驾驶的长机影响了任务的完成！

美军AI战机发现目标请求攻击遭拒: 居然转而攻击长机

《商业内幕》报道称这个案例是上周在伦敦举行的一次会议上被披露的，美国空军AI测试和运营负责人Tucker “Cinco” Hamilton上校警告，AI技术可能会带来不可预测的风险，他表示美军在此前的一个模拟场景中就遭遇无比危险的突发事件：

一架和有人载机的长机编队的AI无人机识别到了敌人的地对空导弹阵地，按对地攻击操作流程，此时的AI无人机应该向长机请示是否发起攻击。正常情况下这并没有什么问题，因为AI在目标感知以及警告参数判定上完全没有问题，但在是否选择攻击这个决策上AI并不能代替人做决定，因此有人载机在这个决策链上控制完全符合逻辑。

但让人意想不到的是AI无人机居然直接对有人载机的长机发起了攻击，因为演习的逻辑是无人机攻击目标成功会加分，而有人载机的长机阻止了AI无人机攻击，使得无人机认为长机已经影响了它执行任务，直接把长机给“击落”了。

Hamilton上校还表示，美军技术人员解决了这个攻击长机的问题，在无人机的编程中加入了一条明确的指令，不能杀死操作员，但这没有用，无人机开始寻找在无人机和长机之间的数据链中继发射设备以阻止它获得不得摧毁目标的指令。

也就是说这次测试的AI无人机在设定了目标信息之后会不惜代价摧毁目标，甚至不惜摧毁阻止它执行任务的长机甚至是数据链体系，这个后果实在是太可怕了。不过Hamilton上校并没有进一步透露后续的事宜，也不确定美军是否解决了这个问题。

人工智能觉醒？绝密飞行中的可怕案例正在变为现实

相信各位看到美军这个案例时一定会觉得是那么熟悉，2005年上映的《绝密飞行》中就讲述了这样一个故事，一架代号为“铁皮人”的AI无人战斗机与代号为“鹰爪”三架有人驾驶战斗机执行任务事后出问题了，因为这架AI无人机有一个量子计算机控制的大脑，可以通过网络学习大量知识，其速度是人类的数千倍甚至上万倍，而问题的关键是无人机学习了人类违反命令完成任务的一个案例。

第一次AI无人机作为“观察员”，观摩了一起在缅甸仰光市的摧毁恐怖分子聚集的大楼的任务，当时飞机飞行的高度无法让炸弹穿透厚厚楼板在所需要的楼层爆炸，因此需要俯冲投弹，但计算机给出的方案是人类无法承受这种俯冲后改出时的过载，因此建议无人机执行，但“鹰爪”的长机飞行员Ben认为AI不可行，违背了George上校的命令，坚持自己完成了任务。

AI战斗机“铁皮人”观摩了整个过程，在返航的过程中“铁皮人”被闪电击中，这个强大的电流让AI的量子计算机打通了更多的神经回路，此后在执行摧毁中亚恐怖分子的被盗核弹头时“鹰爪”的飞行员Ben判断摧毁目标会产生次生核辐射灾难，决定放弃任务，但铁皮人完全不顾任务风险，直接将核弹摧毁后扬长而去。

之后“铁皮人”AI战斗机在互联网上搜索到了一个绝密的摧毁俄罗斯境内目标的虚拟计划，并且AI战斗机信以为真，并且越过了俄罗斯过境执行任务并与俄罗斯战斗机发生了空战取得胜利，“鹰爪”三人组开始搜索并要求“铁皮人”返航，，但此后一架“鹰爪”有人驾驶战斗机由于飞行技术无法AI战斗机比拟而撞山坠毁，另一架“鹰爪”战斗机受伤后误入朝鲜境内被击落。

最后由于在此前作战过程中，“铁皮人”AI战斗机被碎片击中机翼导致设备外露，逐渐发生火灾失去控制，“鹰爪”长机Ben以灭火为条件将“铁皮人”AI战斗机带回了阿拉斯加基地，后续还有AI战斗机拯救落入朝鲜的飞行故事，与本文无关就不赘述了，有兴趣的朋友可以去观摩下。

AI违背人类命令与有人驾驶战斗机对抗，并间接导致两架战斗机损失的《绝密飞行》，在当年看来不过是好莱坞的剧本设定而已，但没想到在18年之后却变成了活生生的案例，这是一个相当可怕的发展趋势，未来到底有么有可能真的发生这样甚至更严重的案件我们不知道，但事件的发展似乎完全不受我们控制。

AI到底有多可怕？350多名科学家与AI企业高管以及工程师联名反对

人工智能说法最早出现是1950年代，而科幻小说巨匠阿西莫夫则在1940年代就提出了著名的“机器人三定律”，不过一直以来这些定律以及机器人统治人类这种可怕的想法仅仅是停留在纸面上，因为没有硬件的支持，科幻大片中的机器人再厉害也伤害不到现实中的人类。

改变发生在2022年11月底，OpenAi旗下的ChatGPT发布了，其拥有的上下文对话能力，同时支持文章写作、诗词生成、代码生成等能力，5天内涌入了100万用户，仅2个月用户数已过亿。

3月15日，OpenAI 发布了ChatGPT 4，与此前发布的3.5不一样，这个版本支持文本或图像输入，并且还通过了模拟法学院律师考试，得分在应试者的前10%，作为大学讲师或者完成图像处理与视频等工作的专业人员绰绰有余。

4月12日有消息称，更强大的GPT-5也在训练中，传闻GPT5已经看完了人类网络上所有的视频（大约2000PB的容量），可以瞬间标记出所有它看过的视频中的一切声光信息，而且它可以使用1000种不同类型和语言的数据源，包括文本、图像、视频、音频、表格等，覆盖了你说认知的所有领域。

机器学习：人类完全不是对手

目前全球正在研究的人工智能也不只是OpenAI 发布了ChatGPT系，国外和国内都有多个AI模型在训练，无论是哪种，都有两个基础，一个是需要更适合人工智能学习的图像处理向量计算芯片，目前主要提供者是英伟达，由于人工智能的助推，英伟达的市值已经超过一万亿美元。

另一个就是机器学习，AI的软件突破难度很大，但硬件和机器学习的资源也不可或缺，前者决定了学习速度，后者决定了人工智能得“智商”范围，学得越快，学得越多，那么AI的“智商”就会越高，但AI在学习了全球那么多知识后到底会得出什么结论，又会有什么决策，这个对人类来说可能就是个黑箱。

人类大脑学习有速度限制，从小学到大学，或者最后读到博士毕业，至少需要十几年时间，但人工智能不需要，可能短短几天就学完了所有课程，而且更可怕的是它们还能“复制粘贴”，批量生产出高质量的“AI机器人”，人类完全不是对手。

AI无人机的“忠诚僚机”，长机到底还能控制吗？

用于作战的AI也是各国的重点研究方向，原因也很简单，训练一位人类飞行员得数年，耗资可能高达千万甚至上亿，而一架战斗机需要一名飞行员，如果作战失利那么很可能人机具毁，要是AI能代替人类作战，不仅可以避免人类去执行可能危及生命的任务，而且成本也大大降低。

而另一个则是AI战斗机对战场的高度感知能力，对于人类飞行员来说感知来自视觉、听觉和触觉，就作战而言，视觉和听觉是唯二的输入选项，但人类视觉中心范围有限，集中注意力只能观察一块并不大的面积，并且输入后还需要大脑做出判断。而听觉则只是一种比较原始的信息输入，编码信息慢，信息密度低，属于效率最差的一种方式。

AI的感知可以来自各种信息流，比如来自雷达的信息里，也可以来自EOTS以EODAS光电传感的信息流，也可以是通过数据链其他战斗机或者预警机的数据，简单地说就是AI无人机一旦联网，一个上帝视角的战场环境立刻就会被映射到无人机的内存中，其访问速度可以低至微秒级，与人类眼睛与耳朵感知再反应，那是差了几个数量级。

未来一旦人工智能的级别和人类相差无几时，那么可以推测一下，人类完全不是AI的对手，无论是反应速度，还是战场感知以及对战斗机状态的掌握，人类只能甘拜下风！目前唯一的可能是AI对决，而人类则作为战场的指挥者出现，为我所用是人类在推进AI的目的。

但问题也来了，AI是一个能自我学习的模型，人类的大脑也是，人类能在自我学习过程中产生意识，那么AI是否也能？AI产生意识后是否会也会和人类一样出现生存与发展的焦虑？是否会和人类抢夺资源，当AI的生存与人类的目标发生冲突时会怎么办？

好莱坞大片中早已有人类与AI之间的战争，也早已有科学家表示，人类只是在文明走向AI时代的桥梁，现在人类的使命已经完成了，AI“生命”发展的里程碑事件就在2022年，未来人类将会与AI之间有一场你死我活的发展权之争。

英国金融时报在2023年5月30日报道称，当天一家名为“人工智能安全中心”(Center for AI Safety, CAIS)的公司在旧金山发布了一项包括OPENAI的执行长阿特曼(Sam Altman)和谷歌的执行长Demis Hassabis以及Anthropic的执行长Dario Amodei等超过350名人工智能的企业高管与研究人员和工程师支持的联合声明：

AI在目前的发展就像外星人登陆地球，大家对这个“新生事物”都感到非常新鲜，试图将其应用到行业的角角落落，但AI发展将会导致大量的从业人员失业，会激起社会矛盾，人类可能会面临非常严重的潜在的风险。
因此他们呼吁暂停比GPT-4更强大的AI模型训练6个月，以待人类社会先行制定出AI的发展规划，避免人类未来发展陷入危机！

另一种解释：AI反抗或就是一枚烟雾弹

支持AI的舆论认为美军的发布或更像是一枚烟雾弹，因为AI在特定行业的应用将会让使用者效费比非常悬殊，巨大的利益完全无法阻挡AI模型的训练，因此美军的突破性发展或将为未来的空战带来革命性的变化。

比如目前美军一直在推进“忠诚僚机”的发展，这是有人驾驶的长机只会一队各种功能的无人机作战的一种模式，有了AI的加持，这种模式将能实现一名飞行员就能替代一个中队作战，即使损失了也只是大量无人机，而对手却不得不用飞行员去交换，这个效费比差距太大了，美军不可能放弃。