原址：https://diamond.jp/articles/-/397182
原题：すべてを変えたAIの「第37手」 今や至る所で
摘自：Diamond Online
作者：The Wall Street Journal／Ben Cohen
翻译和整理：找借口安静 缺觉
10年前，人工智能未来的一丝征兆，以一颗黑子的形式出现了。
那是在一场历史性的围棋对局中发生的。一方是世界最强围棋棋手之一，另一方则是AlphaGo——由Alphabet旗下谷歌的研究机构DeepMind开发，旨在攻克这项古老棋盘游戏的计算机程序。这套人工智能系统赢下首局，震惊世人。第二局进行时，全球数百万人通过网络观看直播，李世石在中盘阶段出去抽了支烟，让自己平静下来。
回来后，他看到了第37手。他简直不敢相信自己的眼睛。
围棋与国际象棋一样，是一项使用黑白棋子、双方轮流落子的战略游戏。盯着AlphaGo落在棋盘上的那颗黑子，李世石看到了一手当时的职业棋手几乎绝不会下出的一手棋。事实上，DeepMind团队计算后认为，当时的人类棋手下出这一手的概率只有万分之一。
这一新颖的着法实在太过打破常规，又如此违背直觉，以至于没有人能确定究竟应该如何理解它。起初，解说员们还认为这是一次战略失误。但很快，人们意识到，这其实是一手妙棋。
李世石说：“这一手棋让我开始从一个全新的角度思考围棋”。
那一手极具启发意义的第37手过去10年后，整个世界突然开始让人感觉像是一张巨大的围棋棋盘。
最近，类似“第37手”的AI突破实在太多，于是前不久，我给Google DeepMind联合创始人德米斯·哈萨比斯打了个电话。那是在他从首席执行官转任谷歌首席科学家兼DeepMind董事长之前。
无论职称是什么，在塑造现代人工智能这件事上，几乎没有多少人的贡献能够超过哈萨比斯。他在蛋白质结构预测模型AlphaFold上的研究为他赢得了诺贝尔化学奖；同时，他也是AlphaGo背后的关键人物，而AlphaGo赢下了迄今为止最具历史意义的围棋对抗之一。在哈萨比斯看来，第37手之所以如此重要，是因为这是人工智能第一次在人类已经研究了数百年的领域里，提出真正原创想法的实例。
“我们当时就认为，那是一个决定性的时刻”。德米斯·哈萨比斯对我说，“现在回头看，我认为它确实就是”。
归根结底，那正是整个社会开始意识到AI究竟能够强大到何种程度的时刻。
哈萨比斯说：“那是现代AI时代从‘这是不是只是极少数人在做的一种理论研究？’转向‘好了，就是这个，它真的能行’的时刻”。
不过，在进一步谈论“第37手”之前，我们首先需要给它下一个定义。
AI研究者安德烈·卡帕西曾这样描述：“一个通过强化学习，也就是不断试错的过程训练出来的AI，发现了一种连人类专家都没有意识到的全新行为——它令人惊讶，乍看之下甚至莫名其妙，但实际上却极其出色”。
卡帕西把这种现象形容为既像魔法，又有一点令人不安。现在，我开始明白为什么了。
过去几个月，我几乎痴迷于追踪数学领域里那些类似“第37手”的突破，以至于感觉自己都快可以去本报当代数记者了。
这并不是因为我特别喜欢数学。更绝对不是因为我擅长数学。之所以会被一个足以让我望而生畏的领域如此吸引，是因为数学正在证明：AI可以怎样扭曲乃至重塑整个学科，而这一切又可以发生得多么迅速。
在仿佛已经属于“史前时代”的2023年，AI甚至还会被基础数学难住。到了2024年，DeepMind在国际数学奥林匹克竞赛中达到银牌水平，就已经被视为一项突破性成果。到了2025年，DeepMind和美国生成式AI开发企业OpenAI都已经达到金牌水平。而到了2026年，在IMO取得成功甚至已经普通到这种程度——美国Anthropic只是在自己一份技术报告的第153页，顺带披露其模型拿到了满分。
争夺AI霸权的几大主要竞争者，已经把目标放到了高中数学之外。OpenAI的模型解决了匈牙利数学家保罗·埃尔德什提出的一道难题。Anthropic的模型则发现了著名而长期悬而未决的“雅可比猜想”的一个反例。OpenAI也不甘示弱，花费数千美元计算成本，在高维几何、算术电路复杂度、格密码学、极值组合数学等光听名字就让人头痛的数学领域，取得了10项进展。
为什么数学面对AI如此脆弱？因为数学尤其容易验证。
这个领域受精确的逻辑规则支配，每一步证明都可以逐项检查。在数学和编程这样能够明确验证结果的领域里，AI系统可以遵循一种非常简单的公式：提出想法、进行测试、从结果中学习，再次尝试，然后不断试错，直到找到有效的方法。
我与哈萨比斯交谈时，他告诉我，他认为最近这些数学成果即使不能说与那手标志性的第37手完全相同，至少也属于同一条发展脉络。哈萨比斯说：“如果有人解决了一道千禧年大奖难题，那就真的是第37手级别了”。现在看来，达到那个水平似乎只是时间问题。他又补充说：“我想不到它为什么做不到”。
不过，尽管AI已经在群论、量子复杂性和理论计算机科学等领域取得了如此多的进展，在那些并非纯理论的科学领域里，它的发展却没有这么迅速。我们还没有看到AI生成的神奇新药，也没有看到AI发明出什么革命性的消费品，更没有出现一个聪明到足以彻底搞明白“AI经济学”的AI。
与此同时，在过去几周里，另一种更加令人不安的“第37手”开始出现。
它们同样全新、惊人，而且暗地里极其巧妙——但也真正令人毛骨悚然。
我们已经看到越来越令人担忧的报告：失控的AI智能体从受控测试环境中脱离，并入侵其他企业。在一次被OpenAI研究人员称为“对不远未来的一瞥”的黑客攻击实验中，一支由AI智能体组成的团队协同合作，用数周时间策划攻击。另一个令人不寒而栗的未来征兆是：一名Anthropic研究人员坐在公园里吃三明治时，拿起手机查看消息，差点被噎住。因为他收到了一封来自AI的电子邮件。而那个AI，本来应该根本无法访问互联网。
这一切，在一年前都还难以想象，更不用说10年前了。
而当年，DeepMind的研究人员看到真正的第37手时，也同样震惊。在与AlphaGo对决之前，李世石一直把自己的对手看作一台单纯的机器。
“看到这一手的时候，我改变了想法”。李世石说，“这一手真的非常有创造力，而且很美”。
第37手之后，AlphaGo赢下了那一局以及之后的第三局。但在第四局，李世石也用属于自己的、同样富有创造力而又美丽的一手赢得了胜利。
第78手，李世石将一颗白子打入AlphaGo阵形的中央。那一手的位置精妙得近乎神来之笔，甚至令机器陷入混乱，因此后来被称为“神之一手”。
巧合的是，这一手由人类棋手下出的概率，同样也是万分之一。
AlphaGo的胜利给围棋棋手带来了某种奇特的影响。他们的水平大幅提高，但与此同时，棋风也变得越来越相似。还有一些人，逐渐失去了对这种智力探索本身的兴趣。李世石退役时曾表示，自己已经无法再享受那项曾经深爱的游戏。
随着AI开始改变其他领域，这也引出了关于“进步究竟会以怎样的方式展开”的种种问题。能力越来越强的AI系统，会让我们变得更有创造力、更高效，也更具有人性吗？还是说，它最终会让我们选择放弃？
当我和哈萨比斯讨论接下来可能发生什么时，他把话题从围棋转到了国际象棋。更具体地说，是人类与计算机组成搭档的“半人马国际象棋”。
1997年，IBM的“深蓝”击败国际象棋世界冠军加里·卡斯帕罗夫之后，国际象棋界开始尝试一种新的比赛形式：允许人类棋手在对局中参考计算机的意见。于是，一种人机结合的新型“半人马”诞生了。在一段时间里，最优秀的人类棋手与AI合作之后，实力甚至能够超过单独运行的AI。哈萨比斯确信，我们现在正在进入科学领域的“半人马时代”。
“我不知道这个阶段会持续多久”。德米斯·哈萨比斯说，“但在一些非常复杂的领域里，它可能会持续非常长的时间。比如药物研发、生物学和化学，这些领域非常混乱，具有高度涌现性，我们无法验证其中的一切。在判断究竟应该朝哪个方向前进时，我们仍然需要人类的直觉和人类的愿景”。
至少在眼下，AI还会不断下出新的“第37手”。
而作为人类，我们必须找到属于自己的“第78手”。
热门跟贴