阅读即生活，书中有世界。读者朋友们晚上好，湛庐君与你一同回顾不平凡的一周。
本周，央行发布了以降低存量房贷利率为首的一系列经济提振组合拳，A股高歌猛进，逼近3100点，让不少人久违地长舒了一口气。
另一边，OpenAI创始人奥尔特曼在本周发表了一篇文章，提出了预测：超级AI，将在未来几千天出现！
奥尔特曼发表完这篇文章，业界一片哗然。紧接着，OpenAI的CTO Murati在社交平台上宣布离职，原因是OpenAI在2015年成立时，还是一个想用AI造福人类的非营利组织，如今在奥尔特曼的掌舵下要转向一个不受控的盈利性公司。
CHEERS' WEEKLY ｜ No.11
这意味着，OpenAI创始团队的核心成员已经“渐行渐远”。众人纷纷表示担忧——奥尔特曼会不会打开AI的潘多拉魔盒，最终放出一只不受控、甚至吞噬人类的怪兽？重要的是，这个怪兽很可能在不到10年内就会出现……
本期CHEERS’ WEEKLY，湛庐君想和你聊聊，当AI的奇点真正来临时，我们未来的生活发生什么变化，以及我们应该从现在起做哪些准备。
2024-09-29
✦用阅读看世界✦
一、如果AI失控，它的风险与边界在哪里？
在过去一年中，OpenAI经历了人事的剧烈动荡。除了CTO Mira Murati外，首席研究官Bob McGrew和研究副总裁Barret Zoph也相继辞职，连创始人之一Ilya Sutskever也在今年5月选择了离开。
自2015年成立以来，OpenAI一直声称致力于安全且有益的人工智能发展。然而，随着公司向营利性转型，许多人开始怀疑其初衷是否依旧。前员工们反映，原本的非营利使命已被彻底扭曲，取而代之的是与利润紧密挂钩的目标。
马斯克发文“吐槽”OpenAI的人事变动
尽管如此，OpenAI在市场上的表现却异常强劲。2023年8月，该公司的收入达到3亿美元，较年初激增1700%。预计到2025年，收入将增长至116亿美元。尽管这样的增长令人振奋，却也引发了对其可持续性和伦理风险的担忧。例如，GPT-4o模型在推出后就曾出现了安全问题。
在奥尔特曼的高压政策下，许多研究者被迫在极短时间内进行安全测试，导致一些关键问题未能及时发现。高管们急于在重大活动前推出新产品的决策加剧了团队的不满和挫败感。
随着奥尔特曼对盈利组织的倾斜，OpenAI的未来充满了不确定性。许多专家和前员工担心，人工智能可能在缺乏足够监管的情况下快速发展，甚至成为一个不受人类控制的“怪兽”。
-⬆️点击书封，立即入手-
在《如何创造可信的AI》中，AI专家盖瑞·马库斯指出：值得信赖的人工智能需要在法律和行业标准的监管之下，以优秀的工程实践为基础。然而，目前相应的法律和标准基本上缺失。太多的人工智能项目只是在短期内解决问题，缺乏其他行业常见的关键工程保障。
马库斯提醒：在超级人工智能到来之前，相比于一路高歌猛进，我们更需要警醒的是安全。
他向读者引出了艾萨克·阿西莫夫（Isaac Asimov）于1942年提出的“机器人三定律”，它们不仅是科幻小说中的设定，更是我们在构建未来人工智能时应认真对待的原则——第一，机器人不得伤害人类，或因不采取行动而任由人类受到伤害；第二，机器人必须服从人类的命令，但与第一条定律相冲突的命令除外；第三，机器人必须保护自身的存在，前提是这种保护不违背第一、第二定律。这些基本原则为我们提供了一个反思的框架，提醒我们在追求技术进步的同时，必须始终把人类的安全与伦理放在首位。
二、芯片帝国崛起，重塑未来世界最重要的力量
奥尔特曼还在积极推动一个“芯片帝国”计划。这一宏伟构想旨在与阿联酋、亚洲芯片制造商及美国官员谈判，计划投资高达7万亿美元，在全球范围内（包括中东）建立新的芯片工厂和数据中心。
这一计划不仅反映出奥尔特曼的雄心壮志，也表明他在全球科技界的影响力与日俱增。
根据《纽约时报》的报道，奥尔特曼的愿景是建立无数数据中心，提供全球算力库，以支持下一代人工智能的构建。目前，尽管具体的运作模式尚不明确，OpenAI似乎正在组建一个松散的公司联盟，涵盖微软、投资者和芯片制造商。
在这一过程中，OpenAI的筹资似乎即将成功。然而，台积电高管对此计划的“荒谬”看法，及其要求阿联酋出资建设多个高达430亿美元的芯片制造厂的提议，均表明这一野心并非易事。OpenAI发言人Liz Bourgeois对此表示，尽管未来几十年内全球AI基础设施的总投资可能达到数万亿美元，但OpenAI正在探索的规模仅为数千亿。
-⬆️点击书封，立即入手-
芯片作为现代科技的核心，构成了社会运转的基础，影响国家安全、商业和文化等多个方面。在此背景下，了解芯片的历史和未来显得尤为重要。而《芯片简史》这本书恰好为我们提供了这样的视角。书中详细呈现了芯片从发明到发展的60多年历程，涵盖了量子力学、半导体物理学以及各种半导体器件的演变，最终形成了今天的数字和模拟芯片。
在理解OpenAI的发展和变化时，我们也许能从这部经典著作中获得启发，帮助我们更全面地看待芯片与未来科技的关系。随着OpenAI的进展与挑战不断浮现，回顾这一领域的发展脉络，能让我们更好地理解现状，并思考未来可能的走向。
三、奇点降临，人类何为？
奥尔特曼预测，超级人工智能ASI将在几千天后出现。其实不止是奥尔特曼，埃隆·马斯克、《人类简史》作者赫拉利·尤瓦尔都曾公开发表过相同的观点：完全超越人类智能水平的AI，正在以超越每个人想象的速度出现。
倘若那个时刻真正降临，未来世界什么样，人和AI的关系如何，我们要做哪些准备？
我们终于等到了《奇点更近》。库兹韦尔预言，2029年，AI将完全通过图灵测试；而到2045年，我们将真正走到人类文明与技术的“奇点”。
-⬆️点击书封，立即入手-
“我们将与AI融为一体，并利用比人类强数百万倍的计算能力来增强自己的能力，这种智能和意识的提升影响深远，以至于人们会感到难以完全理解。我所谓的“奇点”，正是指这一事件。”
库兹韦尔是比尔·盖茨口中“最擅长预测人工智能未来的人”。“深度学习”“脑机接口”“3D打印”“DNA结构破解”“超算力芯片”……库兹韦尔做出过147次预测，其中86%已经成真！
为什么奇点更近了？库兹韦尔说：当前超级计算机的计算能力已远超模拟人脑所需。现在，我们正在进入指数增长的陡峭阶段。这些进步都建立在库兹韦尔定义的“加速回报率”之上：技术持续进步，而计算和信息技术成本呈指数下降，每一次进步都让下一阶段的迭代变得简单。
奇点到来前的世界究竟会怎样。不妨一起看看库兹韦尔的最新的预测：
2020年末，3D打印技术将能够打印服装、商品，甚至摩天大楼；
2030年初，通过医用纳米机器人我们可以实现细胞层面的维护和修复，达到“长寿逃逸速度”；
2030年末，人们将能够随心所欲地改变自己的外貌；
2040年初，我们将能够创造出与我们几乎没有区别的复制人。
随着库兹韦尔对未来的大胆预测逐渐浮现，我们似乎正站在一个巨变的边缘。超级人工智能的崛起不仅会重塑我们的生活方式，更可能重新定义“人类”这一概念。
在即将到来的奇点面前，我们不仅要面对技术的飞速发展，更要审视人类自身的定义与未来。《奇点更近》不仅是启示，更是航向。
我们必须认真思考：在与AI融合的未来，我们的角色是什么？我们的价值观如何调整？科技的进步会为我们带来无限可能，还是让我们陷入新的困境？这是留给每一个人的深思命题。
热门跟贴