编者按：当前，全球人工智能竞争持续升温，大模型迭代不断提速，技术突破与商业应用相互推动，“唯快不破”似乎成为行业共识。然而，技术狂奔背后的创新疲劳、社会焦虑、安全风险及治理困境，同样值得关注。 美籍澳大利亚作家、工程师马克·佩斯（Mark Pesce）在英国科技新闻网站The register上撰文，从高科技从业者的切身感受出发，对人工智能发展中的速度崇拜和无序竞争提出反思。观察者网“世界科先声”编译此文，旨在为当下热火朝天的AI发展与竞争提供一个不同的观察视角。
【文/马克·佩斯】
我们为什么这么着急？是在参加一场竞赛吗？终点又在哪里？我们现在是遥遥领先，还是远远落后？
最近，我越来越频繁地听到人们这样谈论人工智能。他们似乎陷入了一种令人烦躁的过度亢奋状态，就像一个三岁的孩子，熬过了睡觉的时间，结果兴奋过了头，反而怎么也睡不着。
自去年11月以来，这种感觉愈发强烈。当时，AI工具的能力突然跨过了一道门槛，变得“足够好用”，可以广泛应用于各种实际工作。一大批工程师，包括我自己，都像打了鸡血一样，脑子里不断冒出新点子，迫不及待地想用这个神奇的新玩具，通过提示词打造各种工具、优化各种工作流程。
AI的使用量呈爆炸式增长，收入也随之飙升。AI公司终于看到了一条隐约通向盈利的道路，于是趁热打铁，加快了新产品的发布节奏。每当一个新模型问世，都让人觉得像过圣诞节一样兴奋。
而过去这十个月左右，我们已经过了太多个“圣诞节”。
几乎我认识的每一位工程师，都欠下了一笔巨额的“玩具债”：不断尝试层出不穷的新工具，根本停不下来。可这些工具多到什么程度呢？哪怕穷尽整个职业生涯，我们恐怕也掌握不过来。
每个新模型的发布，都能让用户获得一阵短暂的多巴胺刺激。但兴奋劲儿一过，随之而来的便是失落与疲惫。
这正是我们如今所处的状态。
工程师们已经精疲力竭。我们一路狂奔，追逐所谓的“超级智能”（不管那究竟是什么），到头来得到的却是另一种东西：不妨称之为“昏沉智能”——信息和新技术不断涌来，我们吸收得太多，却根本来不及消化。再多的AI，也不过是毫无意义的过剩。
如果说，这是身处AI泡沫内部的人所看到的景象，那么泡沫之外的人又怎么看？
情况同样不容乐观。
《华尔街日报》明确指出，63%的美国人赞成立即暂停或放缓AI的研发。他们看得出来，这项技术发展得太快，整个行业像陷入了某种狂热，正以失控的速度向前冲。这让他们感到不安。
这种说不清、道不明的不安，逐渐演变成一种普遍的焦虑：机器会不会很快反过来消灭人类？
行业内部也弥漫着类似的情绪。一些从业者在严重倦怠之后，开始发表长篇激烈文章，警告人类即将面临灭绝的命运。Anthropic前员工雅各布·考克森（Jacob Coxon）的辞职声明之所以在网上疯传，正是因为它为人们心中无处安放的焦虑提供了一个具体的宣泄口。
难道我们就不能停下来，喘口气吗？
现实其实很简单：现有的技术变革，已经足够企业消化好几年了。无论是美国、中国还是欧洲，都已经拥有大量“足够好用”的AI技术，完全有能力彻底改变企业的运营方式。
这种变革一定会发生，但它需要的是几年时间，而不是短短几天。
不断推出更先进、更强大、更光鲜亮丽的AI模型，如今已经成了一件边际收益递减的事。
不是因为模型的能力遇到了瓶颈，而是因为我们的文化和社会已经到了承受的极限。
我们实在消化不了更多AI了。
那么，怎样才能让这一切慢下来？
模型开发商与客户之间已经形成了一套能够带来利润的正向循环。这套机制不会自行停转，只会推动整个行业跑得越来越快、越来越猛。
与此同时，一场“卢德主义2.0”运动也开始露出苗头。参与者试图在机器取代所有工人之前，先把机器摧毁。
如今，人们对数据中心建设的抵制，还只是这股反抗情绪相对温和的一面。如果我们继续不管不顾地向前猛冲，事情很可能会朝着更加激烈、甚至危险的方向发展。
不过，有一个因素或许能迫使我们放慢脚步：控制这些AI系统所需要付出的代价。
模型越聪明，就越难驾驭。
几乎每天都有新的报告称，某些“失控的AI智能体”已经接触到了外部系统。而这些事件所涉及的实验室，似乎连构建安全测试环境这样的基本功都没有做好。
随着模型能力越来越强，将它们限制在安全范围内的成本也可能越来越高。终有一天，这笔成本会超过它们所能创造的收益。
或许，只需要一场诉讼，就足以让整个行业被迫踩下刹车。到了那时，处于技术最前沿的AI实验室及其产品，可能已经成了连保险公司都不敢承保的高风险对象。
但愿我们能在真正酿成大祸之前，主动停下来。
否则，终有一天，有人可能会直接拔掉电源，让那些漂亮的圣诞彩灯瞬间熄灭。
与其等到不可抗拒的力量迫使我们停下，不如趁现在还有选择的余地，以清醒的头脑、谦逊的态度，主动掌握前进的节奏。
本文系观察者网独家稿件，文章内容纯属作者个人观点，不代表平台观点，未经授权，不得转载，否则将追究法律责任。关注观察者网微信guanchacn，每日阅读趣味文章。
热门跟贴