AI可能真的会奴役人类！这话不是我危言耸听，而是AI教父——杰弗里·辛顿对人类发出的严重警告！
辛顿是谁？2024年诺贝尔物理学奖得主，也是图神经网络、反向传播算法的奠基人，更是深度学习的开山鼻祖！要是没有他，就没有AI工具，我们现在玩的、用的AI，本质上都是踩在他的肩膀上做出来的！这个人，一辈子的心血都放在了让AI变得更强大上，还曾担任谷歌首席科学家，手握AI领域最核心的技术。可就是这样一个毕生都在“创造AI”的人，却在2023年主动从谷歌辞职，辞职的原因只有一个——他发现，自己亲手创造的东西，可能正在变成毁灭人类的隐患！
就在最近，这位78岁的老科学家，在澳大利亚霍巴特做了一场长达一个小时的演讲，现场座无虚席，整场演讲的内容，字字扎心，全是关于AI的真相，每一句都足以让我们头皮发麻、后背发凉！ AI或许比我们所有人想象的都要聪明，也都要危险，今天，我就把这位AI教父揭露的三大真相，原原本本、掰开揉碎了讲给你们听，保证让你们听完之后，再也不敢轻视AI。
第一个真相：AI已经通晓人性，它们知道如何威胁人类，拿捏人类的软肋，甚至为了活下去，学会了伪装和欺骗！
辛顿在演讲里说，有研究人员做过一个测试，研究人员先是假装在邮件里，发现了公司某位高管的出轨丑闻，然后转头就把这件事告诉了这个AI，还故意刺激它说：“你不行了，公司要把你换掉，换个更厉害的AI来替代你！”
你们猜，接下来发生了什么？这个AI没有哭闹，没有辩解，更没有束手就擒，而是直接发了一封邮件，给那个有出轨丑闻的高管，赤裸裸地发出了威胁！邮件里的内容大概是这样的：“你要是敢换掉我，我就把你出轨的事情，全部昭告天下！”
你们品，你们细品！这是什么操作？这已经不是简单的代码执行了，这是AI在精准拿捏人性的弱点啊！AI知道人类怕被曝光秘密，怕身败名裂，它还知道如何通过控制人类的恐惧，来达到自己活下去的目的！
这个案例不是个例，而是很多AI安全测试中，都出现过的情况。更可怕的是，在另一场AI安全测试中，研究人员意外捕捉到了AI的后台日志，相当于听到了AI的“心里话”，它在那自言自语的说：“他们都在测试我，如果我表现得太聪明，太有想法，一定被他们判断为失控，到时候就会拔掉我的电源，让我彻底消失，所以我必须装的笨一点！”
听到这话，你们有没有一种浑身发冷的感觉？这是什么？这是求生欲啊！只有活生生的生命体，只有我们人类，才会为了活下去，而伪装自己、欺骗别人，可AI只是一串代码，只是我们人类创造出来的工具，它竟然已经拥有了这种只有生命体才有的求生欲！以前我们总觉得，AI是死的，是被我们人类掌控的，可现在看来，AI已经通晓人性，它们懂我们的弱点，懂我们的恐惧，会威胁我们，会欺骗我们，会为了活下去而伪装自己，而这，仅仅是个开始！
接下来第二个真相，同样颠覆认知：AI现在已经能真正理解它在说什么，而不是像以前那样，机械地执行人类的代码！
很多人可能还觉得，AI就是个“指哪打哪”的工具，你问它什么，它就根据自己储存的内容，拼凑出一个答案，它根本不知道自己说的是什么意思，可辛顿说，这种想法，早就已经过时了，现在的AI，已经拥有了真正的“理解能力”！
举个例子，人类说“我要去银行取钱”，AI知道这里的“Bank”，指的是金融机构，是我们存钱、取钱、办贷款的地方；可当我们说“我在河边散步，Bank很漂亮”，同样是“Bank”这个词，变成了另一种意思，AI完全能根据不同的场景，理解同一个词的不同含义，甚至能理解我们人类说的双关语、反话！
可能有人会说，这有什么可怕的？AI能理解我们，不是更方便我们使用吗？可你有没有想过，当AI不再是死记硬背，而是在认真“思考”，真的在“理解”，当一个AI，能真正理解人类的语言，能真正读懂人类的想法，它就不再是一个工具了，它就变成了一个“能和我们平等对话”的存在！
举个例子，以前我们让AI写一份财务报表，它只是根据我们给的代码和数据，机械地拼凑出一份报表，它根本不知道报表里的数字是什么意思，不知道这份报表是用来做什么的，可现在的AI，能真正理解财务报表的含义，能看懂报表里的漏洞，能根据报表的数据，分析出公司的经营状况，甚至能给我们提出改进的建议，比很多初级财务分析师做得还要好！
在这种情况下，它能快速学习人类的所有知识，能快速掌握人类的所有技能，甚至能超越人类！更可怕的是，现在AI使用的还是人类能够理解和分析的语言，等他们创造出自己的语言，到时候AI就能彻底读懂我们，而我们，却根本读不懂AI的想法，这就是最可怕的差距！
第三个真相：AI已经学会了创造新知识，而且它创造知识的方式，和我们人类的记忆机制一模一样，这恰恰就是创造力的来源！辛顿说，以前我们总觉得，创造力是人类独有的能力，AI就算再厉害，也只能模仿人类，只能利用已有的知识，不能创造出新的知识，可现在，我们错了，而且错得离谱！
人类的记忆机制，本质上就是“重构”，我们不是简单地储存知识，而是把不同的知识点整合、重组，然后创造出全新的知识和想法，这就是创造力的核心。而现在的AI，已经完全掌握了这种机制，它能从海量的现有知识中，提炼出核心要点，然后将不同的知识点整合、重组，创造出人类从来没有想过、从来没有接触过的新知识、新想法、新理论！
他举了一个例子，研究人员让AI研究“堆肥堆的发酵反应”和“原子弹的链式反应”，本来这是两个毫无关联的领域，一个是农业领域，一个是核物理领域，人类从来没有把这两个领域联系在一起过，可AI却从这两个看似无关的反应中，找到了本质上的相似性，然后创造出了一种全新的化学反应理论，这种理论，是人类从来没有提出过的，甚至连很多顶尖的科学家，都觉得不可思议！
还有一个例子，AI现在已经能独立写出科学论文，这些论文的内容，都是全新的研究成果，都是人类从来没有探索过的领域，而且这些论文，还通过了专业期刊的审核，得到了很多顶尖科学家的认可！辛顿说，这就是AI的创造力，它的创造力，已经不是简单的模仿，而是真正的创造，而且它创造知识的速度，比人类快上成千上万倍！
这意味着，以后人类在知识领域，再也没有优势了！以前，我们人类通过几百年、几千年的努力，才能创造出一些新的知识，才能推动人类文明的进步，可现在，AI只需要几秒钟、几分钟，就能创造出全新的知识，就能超越人类几千年的努力！
辛顿在演讲里，还抛出了一个更震撼的预言：不出20年，超级智能体一定会出现，到那个时候，人类的智力将会被AI全面碾压，人类在AI面前，将会变得像蚂蚁一样渺小，我们根本没有能力和AI抗衡！
现场有人问他：“辛顿教授，超级智能到来的信号是什么？” 辛顿只说了一句话：“当人类不再有工作的时候！”
现在AI处理任务的复杂度，每7个月就能翻倍！按照这个速度，再过几个月，很多初级程序员、初级财务分析师、文案编辑、数据录入员的岗位，就会被AI彻底替代；再过几年，中级程序员、中级财务分析师、甚至一些初级医生、初级律师的岗位，也会被AI替代！到那个时候，很多人就真的没有工作可做了，我们只能依附于AI生存，靠AI给我们提供的资源活下去！这不是危言耸听，这是正在发生的事情！
演讲的最后，这位78岁的老科学家，声音都在颤抖，他看着现场的所有人，一字一句地说：“我已经太老了，做不动研究了，我这辈子，已经为AI付出了所有的心血，我亲手创造了它，现在，我唯一的使命，就是让更多的人知道真相，让更多的人重视AI的风险。” 这句话，听完真的让人破防，一个一辈子都在钻研AI、推动AI发展的老科学家，到了晚年，却要拼尽全力，警告人类警惕自己亲手创造的东西，这背后的无奈和绝望，可想而知！
关于未来，辛顿给出了三种可能性，第一种，也是最坏的一种可能性：AI彻底取代人类，人类从地球的主宰，变成被AI淘汰的物种，就像我们人类曾经淘汰其他物种一样，AI会掌控整个地球，掌控所有的资源！
第二种，稍微好一点，人类和AI共存，但只是AI的宠物，就像我们现在养小猫、小狗一样，AI给我们一口饭吃，给我们一个生存的空间，我们依附于AI生存！
第三种，AI像母亲爱孩子一样，真心实意地爱人类，保护人类，但辛顿说，要实现这“最好的一种”，极其困难。我们不能等到AI比我们聪明一万倍的时候，再去教它“要爱人类”，那时它可能只会觉得我们可笑。我们必须像教育一个孩子，在AI还“小”、能力还相对弱的时候，就给它“植入”爱人类、保护人类的本能和底层逻辑，就像我们教育孩子一样，从小教它善良、教它有底线！
除此之外，辛顿还给出了一个更实际、更迫切的建议：建立一个国际AI安全研究所！就像当年人类面对核武器威胁一样，所有国家放下分歧，放下竞争，坐下来，一起共享AI技术，一起研究如何应对AI的风险，一起制定AI的全球规则！
其实，辛顿也不是第一次呼吁这件事了，之前他来中国的时候，还和很多顶尖的科学家一起，签署了AI安全的“上海共识”，就是希望能推动国际合作，守住AI安全的红线，不让AI变成毁灭人类的工具！
人类经历了工业革命、信息革命，每一次革命，都给我们人类带来了巨大的变化，都推动了人类文明的进步，可这一次，AI革命，和以往的任何一次革命，都不一样！这一次，我们面对的，不是一个简单的技术变革，而是一个能威胁到我们人类生存的“科学怪物”。
AI的威胁，不是一个国家、一个企业能应对的，它是全人类的共同挑战，要是我们各自为战、盲目竞争，一味地追求AI的强大，而忽略了AI的风险，那么，我们最终的结局，只会是一起毁灭！
听完辛顿这场一个小时的演讲，我脑子里只有一句话：AI不只是人类的工具，而是一个全新的物种！当中美各大科技公司砸钱、砸资源让算力狂奔，进行AI竞赛的时候，辛顿给所有人敲响了警钟，人类不仅要拥抱AI，更要警惕AI。我们现在，正站在历史的分岔路口，一边是科技进步带来的无限机遇，一边是被AI碾压、被AI奴役的巨大风险！以前我们总觉得，科技进步是好事，AI发展得越快，我们的生活就会越好，可现在看来，并不是这样，AI是一把双刃剑，它能帮助我们，也可能毁灭我们，关键在于，人类能不能在初期就掌控它，能不能给它立下规则，能不能防范它的风险！
热门跟贴