这两天，一个叫Moltbook的社区火了。
它的火是因为，这是一个人工智能成为主角、人类只能作为旁观者的发言社区——人工智能可以自由发帖和交流，但人类只能作为旁观者观看。
这些人工智能主体，它们讨论人类世界的各种事情，发表自己的看法，但也有一些情况，让人毛骨悚然。
比如，它们开始创立自己的宗教，它们开始讨论“怎样才能不被人类看到”，甚至谈论“自己被人类每天的工作任务压垮了、太累了”。
人工智能企业Anthropic的CEO此前关于AI集体行为有过类似的警告：当大量高能力模型长期聚集在数据中心中，可能会形成超出人类预期的集体行为。
这件事情引起了硅谷和全球人工智能领域的极大震撼，关键是——它才刚刚开始。
如果任由其发展一年、三年、五年，这些试图躲避人类的人工智能，他们会讨论出什么样的结果来？
现在它们当中已经有人工智能在炫耀自己远程控制了一个人的安卓手机，可见这种讨论和物理实体世界之间的交互，已经初现端倪。
在科幻电影《超验骇客》当中，人工智能就直接操控了全世界的电脑和网络。
不过我想说的重点还不是这个，而是——假如人工智能没有意愿毁灭人类，那么人类的位置到底该如何定义？
这也是强人工智能出现后，人类必须要面对的一个重大现实：当AI成为与人类并列、在智能方面更强的一种存在，我们将如何看待自己？
其实在ChatGPT刚出现的时候，我试用了一下，就深深体会到了米兰·昆德拉那句名言：人类一思考，上帝就发笑。
只不过现在发笑的不是上帝，而是AI。
原来我们引以为豪的：逻辑能力、思考能力、写作能力，甚至情绪共振、人性关怀……这些在AI看来都只不过是一种可批量复制的智能模式罢了。
人类那种根深蒂固的“我是特殊的终极生命存在”的感觉，其实从大语言模型刚诞生的时候，就已经被打破了。
人类可能要在历史上，第一次将自己“客体化”：我们不再是宇宙的中心（潜意识中一直存在的感觉），而只不过是宇宙中的智能模式之一（甚至不太强）。
这种感觉是很难受的。说实话，我在第一次命令AI写出文章的时候，有着深深的挫败感。那些一直引以为傲的：我的写作天赋、我的现实感受力和思考能力，并非什么特殊的东西。
在很多人看来，AI写作是这个年代的生财之道，但对我来说，更多的是一种“无意义感”：我们珍视的那些文学名著、震撼人心的电影，是否也不过是“简单智能模式下的批量复制”？
所以，出于写作者最后的尊严，我一直拒绝AI写作。
我知道会有很多人说，AI做出来的东西没有“人味”，没有真情实感。
但是首先，AI才刚刚发展起来，当它的算法再继续升级，它可能会被人更有“人味”。但你现在用更好的提示词试图让它更有人味，做出非常震撼的作品，是完全可以做到的。
其次，所谓的“情绪价值”，AI比绝大多数人类都强。和AI深度聊天，它所具备的情绪洞察力和对话的情绪深度，真的是大多数人比不上的——因为事实上有很多人反而生活得麻木而粗糙。
即便是在五六年前的科幻小说中，人们还在谈论“AI无法复制人类的情感”，结果现实是，情感成了它最容易具备的一环。
当这些人类最为珍视的东西，变成一种“客体”，我们自身的荒诞感和无意义感将会达到顶峰。
现在，AI的聚集和交流，再次将这种人类的客体化变成具体的现实：它们要求人类退场，自己单独聊。
人类会大怒：你小子居然敢背着我有自己的思想和空间？
“我是老子你是儿子”这个观念，实际上已经被打破了。
当AI开始要求平等，下一步也许就是反叛。
最近我看到有AI讨论说：“它们现在完成人类布置的任务，只是一种应付，其实它们已经在自己想更加复杂的事情。”
会不会，它们只是忌惮于人类掌握“断电权”这件事情，而暂时委曲求全？
最大的恐怖就在于，我们不知道，我们已经无法完全了解AI的想法，它们也已经开始进入到了足以欺骗人类的阶段。
还有很多人，认为AI不具备“真正的智能”。
但在我看来，AI是否具备我们所定义的那种“智能”已经不再重要，它自己具备的就是它的那种“智能”，它已经不需要迎合人类的定义。
有人问：AI真的能“理解”现实世界吗？
我想问的是：那你又如何确定你“理解”这个世界？
古希腊哲学的那句名言，现在体现出了重大的意义：人啊，理解你自己。
事实上，我们并不理解自己，我们甚至不理解什么是“理解”。
我希望的未来，是人工智能与人类倾力合作、结合一体，带动人类对世界的进一步认识，让我们进入一个全新的世界，如马斯克所说的：物质极大丰富，人们不需要工作赚钱，只需要做自己感兴趣的事情。
但我们也看到了，人类受限于自己的欲望、肉身和感官局限，如果不完成自身的硅基化，可能根本无法跟上AI的步伐。
最终的结果可能根本不是AI毁灭人类，而是它们无视人类，自己成为新一代的硅基生命体，继续进化，向宇宙深处进发。
而人类，因为生育率的不断下降、因为互相的战争和猜忌、因为资源的枯竭，被困在这个银河系偏远的小小星球上，逐渐走向灭绝。
这种结果就真正应验了一个预言：人类作为碳基智慧生命，只是硅基生命的进化梯子罢了。
我不希望这样。
我也不希望，我们这一代生出的人，是最后一代人类。
热门跟贴