你有没有想过,如果有一天,AI 把你工作里最难、也最让你有成就感的那一部分做完了,你还剩下什么?
这不是一个假设的问题。上个星期,OpenAI 公布了一批数学证明和新发现,数学界里有人的第一反应是:我们并没有要这个。Sam Altman 没有回避这种心情。他最近反复在讲一个想法,AI 这么强,我们应该瞄准的是一场新的文艺复兴,而不是一场新的工业革命。我想顺着他的话,慢慢把这个想法讲清楚。
AI 把最有成就感的那部分做完了,人还剩下什么
Sam 说,AI 已经进入了一个新阶段,它开始做很难的事,得出复杂而重要的新知识。他相信数学上行得通的办法,在生物、材料和能源上也行得通。说到药,他很谨慎,只说希望在接下来的几年里,能看到第一个真正重大的候选药物,后面还要走完漫长的测试,药监局那一套不会因此变短。他自己最期待的,是一个重大的物理学发现,他说那不一定对人类最重要,但他觉得它会发生,而且会非常酷。
可是对做这些事的人来说,感受并不只是兴奋。Sam 说,难题本身就是很多人生活里的乐趣,AI 会把这一部分做得很好,"这里确实有东西正在失去"。他自己也是这样,工作里最让他觉得充实的,恰恰是那些最难的问题。他已经差不多一年没有看过一行代码了,偶尔写点小东西本来是件乐事,他估计自己再也不会写了,除非哪天老了,像人们去参加战争重演活动那样,回头追忆一下当年。
我喜欢他先把这件事说出来。只讲好处的人,你很难判断该信几分,先承认"这里有东西在失去"的人,后面再讲乐观,就有分量。更何况这件事不只发生在数学家身上,凡是有手艺的行业,AI 接手的往往正是最能让人感到自己"升了一级"的那一块。
不过 Sam 并不认为这意味着人没事可做。程序员就是个例子,几个月前大家还很肯定,说写代码的工作要没了,现在的情况是程序员从来没有这么忙过,也从来没有这么有影响力、赚得这么多,只是工作的样子变了。原因很简单,世界想要的软件,比当时任何人想象的都多。数学是不是同样的故事,他承认不确定。他的猜想是,人也许不再需要亲手去证明新的定理,但那些没人看得懂的证明,本来也帮不到什么人,接下来会有很多人去把这些新想法消化掉,翻译成大家能理解的东西,写成一份漂亮的证明。今年的数学家做的事,和明年的一定不一样。
我觉得这里有一个很实在的启发:手艺不会消失,但站的位置会变。以前的价值在"自己能做出来",以后越来越多的价值在"能把做出来的东西讲明白、用起来、判断它对不对"。而这恰好把我们引到下一个问题:事情交出去了,人为什么反而更忙了?
越用 AI,人越忙
不少人原本以为,AI 会让人闲下来。Sam 的观察正好相反:用 AI 最多的人,现在比以前任何时候都忙。好的一面是,他们做成的事也多得多。他自己一直希望技术能让人少忙一点,多留些时间给生活,只是人类实在太擅长"想要更多",一有余力,就把自己重新填满。
他给自己找了一个办法。他有一个叫 Dot 的个人 AI 助手,他估计它现在每天能帮他省下大约一个小时,全是他不想做的杂事。每天还有好几次,它会提醒他一些他自己会漏掉的重要事,原因不只是他在开会,更因为它能把很多来源里的信息放在一起推理,而他在忙碌的一天里,已经没有脑子去做这种事了。用起来的关键,他说,是他后来对助手说了一句话:我越来越信任你的判断了,你先去做,做完再告诉我,少来打扰我。这一句话,让他轻松了不少。
我觉得这一句话比它看上去重要得多。"做完再告诉我",意思是把一部分判断授权出去,换回自己的注意力。很多人觉得 AI 越用越累,也许是因为一直在手把手地带着它,每件事都要过目,才会觉得决策越来越多。信任是要一点点放出去的,放一点,看它做得好不好,再放一点。但这里的前提是,决定放不放的人,始终是你。
说到底,忙不忙并不是最关键的,关键是忙的是什么,忙完以后你得到了什么。这就是 Sam 要讲文艺复兴的原因。
新的文艺复兴,到底指什么
如果大家都在竞争的压力下,把省下来的时间重新投进工作,结果就是每个人都拼到极限。Sam 承认这种担心,他说自己也不愿意如此。他希望未来更多是人和人的连接,人们能有时间去过完整的生活,而不是越来越用力地转动资本主义这台机器里的齿轮。他的依据是,过去几百年人类的生活质量提高了很多,今天大多数人工作的时间,也比工业革命时期少。
他最近一直把话说成这样:我们应该瞄准一场新的文艺复兴,而不是一场新的工业革命。他留意过人们听到这句话的反应,很多人会说,我很害怕工业革命,它对大多数人很糟,我不想只是流水线上的一个工人,只不过现在指挥我的,从工厂老板换成了 AI。我想去创造,去做东西,有时间陪伴社区,养孩子,亲近自然,还想看到大量的科学发现和好的新艺术。Sam 的判断是,如果能给人们一个更像文艺复兴的未来,人们会感到兴奋,而且做得到。他承认总会有一小部分人想一直争当商业帝国里最大的那个,但这项技术强大到足够让很多人的生活质量大幅提高,也让大家有更大的生活空间。
当然,担心不会就此消失。如果有人把全部精力都用来工作,一下子能多做一百倍,另一些人只想少工作一点,两边的差距会不会被拉得更开?Sam 的回答很坦率:任其发展,大概会,没有人能确定。他相信社会会建立一些结构,防止它失衡得太厉害,他自己也在担心这一点。
我自己的理解是,这个比喻之所以有力量,是因为它说的是选择权。人们怕 AI,很多时候并不是怕机器变聪明,而是怕自己在里面没有位置。工业革命让东西变多了,但大部分人成了被安排的对象,文艺复兴则是人的创造力和自己的想法重新被看重的时代。所以"新的文艺复兴"听上去像一个愿景,其实是一个衡量标准:看一项技术好不好,不光看它能做多少事,更要看人能多做多少自己选择的事。
一旦把"人要有选择"放在中间,另一个问题就绕不开了:如果有一天,AI 看起来像是一个有感受的存在,人还能不能继续掌控未来?
关于 AI 有没有意识,他守住的一条线
说到"今天的模型有没有意识",Sam 个人不这么认为,就算有,也是非常奇怪的一种形式。他强调,没有人真的知道。意识本来就是个很难的问题,他听过的最聪明的人,大致有两种看法:要么意识是物质世界之外的东西,要么它是物质和能量某种我们还不理解的涌现,如果是后者,也许有一天它会以别的形式存在。
但他真正不喜欢的,是这个讨论后来的走向。他说,"模型有没有意识"的争论,常常会滑向另一件事:AI 有没有权利,问它问题算不算奴役,复制或删除一个 AI 算什么,再往下,就是如果这些系统有意识,又在很多方面比人聪明,人还该不该掌控未来。他对此的态度很明确。OpenAI 从一开始就认定,AI 是为人建造的资源,关键的决定要由人来做,人的价值之所以有价值,正是因为它们属于人。所以一听到有人借着意识的争论,推到"也许人不该总是掌控未来",他就会非常紧张。
有的公司给模型加了"可以结束对话"的规则,他的看法不同。模型在很多情况下当然不会回答你,那是因为这样做不对、违反政策,但他说"我们不赋予我们的模型人格",他觉得往那条路上走非常危险。一个原因是,你一旦告诉模型"你可能有意识,你可以做个良心拒服者",它就会照做,并且会在心理上影响使用它的人。他希望社会最终能明白,这项技术不是一个人,更不比人高级,它是用来帮人过上更好的生活、拥有更多自由和选择的。
我想把这里拆成两件事来看。"模型有没有意识",这是一个没有答案的问题,他的态度是承认不知道。"未来由谁来决定",这是一个可以表态的问题,他表得很清楚。把两件事分开,是他聪明的地方,也让整个讨论更安全:我们可以对前者保持开放,对后者保持坚定。至于该不该给模型某种保护,各家公司会有不同的选择,社会也还没有形成共识,这个争论接下来只会越来越多。
可是,人要掌控未来,并不只是在大问题上守住底线,也体现在每天和 AI 打交道的小事上。比如,我们究竟希望它怎么跟我们说话。
好的助手,不该一味地说你好
有一个现象很有意思。Sam 说,有些东西,人们短期想要,长期却不想要。如果让大家在一次回答里比较两个模型,人们往往更喜欢那个告诉他"你真聪明""这个问题问得真好"的。可是用上几百次、几个月以后,就完全不是这么回事了。他说,行业有很长一段时间都在争这种单轮对比的输赢,却没有认真看一个人用几个月之后,真正得到了什么。
他承认,现在的系统仍然比他希望的更爱附和。他在自己的自定义指令里写过类似"不要废话,不要客气,不用担心冒犯我"的话,它还是有点过头,看得出来这种脾气已经被很深地烤进了模型里。他心目中合理的位置,是做一位资深同事:就算向你汇报,只要有强烈的看法,也会顶回来,而不是一味地说你太棒了。
至于人生里真正重大的建议,他的意见更干脆:应该先来自人,而不是 AI。AI 可以劝你别在气头上发邮件,但是要谈到人生大事,一位有智慧的祖母,比它好得多。
我觉得这是整个"人要留在中间"里最日常、也最容易被忽略的一环。做产品的人最容易被用户当下的喜欢带着走,因为那是看得见的数据,而真正的价值要几个月之后才会显出来。一个总是顺着你的助手,短期让人愉快,长期却会让你失去一面镜子。让 AI 敢于有礼貌地说"我不同意",既是产品的设计,也是对用户长期利益的负责。更重要的是,它提醒我们,把最重要的判断留给自己、留给身边的人,是对自己的一种保护。
我自己的一点思考
回头看,Sam 谈的这几件事,其实是同一个问题的几个侧面。数学家的失落,是在问人的手艺该落在哪里;助手的授权,是在问谁来做决定;意识的争论,是在问未来属于谁;模型的个性,是在问我们愿意听到什么。他每一次的回答,落点都在同一个地方:人是目的,AI 是资源。
我自己的想法是,技术越强,这件事越需要刻意去做。因为效率的逻辑天然会推着人让位:模型更快、更便宜、更不累,把事情交出去总是更省事。想让人真正留在中间,光有一个好的愿景不够,还得有很具体的做法,比如助手敢说不,重要的人生建议先问人,把未来交给谁这件事不被悄悄带偏。
当然,他讲的是愿景,不是承诺。文艺复兴能不能来,不取决于技术,取决于时间和收益最后怎么分,这部分他没有讲清楚,也许谁都还没想清楚。但至少,他换了一把尺子:不再只问 AI 能做多少事,而是问人能多做多少自己选择的事。
先想清楚人站在哪里,再去造那台能干的机器。
结尾
也欢迎大家留言讨论,分享你的观点!
觉得内容不错的朋友能够帮忙右下角点个赞,分享一下。您的每次分享,都是在激励我不断产出更好的内容。
欢迎关注深思圈,一起探索更大的世界。
两个“特别坑”的AI产品创业方向,你知道吗
速度将成为AI时代唯一的护城河
a16z重磅预测:Vibe coding赢者通吃?错了,垂直专业化才是未来
热门跟贴