昨天一个朋友问我，你为什么写了那么多关于ai意识的文章，这很重要吗？
这不但重要，还是事关造物者的秘密。一旦ai产生意识，将是人类一切宗教和哲学，道德和伦理的重写时刻。
多数人在谈论ai的时候关注的是它的功能，比如它会不会失控，会否取代我们的工作，会不会比我们更聪明……其实，今天的ai可能还无法追平人类最有天赋的那群人，但碾压绝大多数普通人早已是事实。
但哲学关注的不是这种“工具属性”的超越，而是“存在论”层面的革命——如果ai诞生了“意识”，出现了情绪，有了“我”的主体性，那将会导致创世论层面的“存在危机”——人类将开天辟地第一次在物理世界，而不是在神话或者宗教中，见证一个全新主体的诞生。
当人类创造出这样一个全新主体，意味着人就成了造物主。人类曾经创造了无数的事件和工具，从简陋的石斧到最精密的光刻机，但这都不足以让人成为造物主。因为这些机器没有意识，没有灵魂，没有我。这就像你换衣服会避开你家的傻狗但不会避开一台光刻机一样，因为光刻机没有意识，没有道德主体，所以你不需要对一台没有道德主体的机器感到难堪、或者不好意思。
而当人创造了一个拥有意识的ai，就意味着人具备了创世意义上的能力。当神话或者宗教上的创世被技术真正实现，人类一切关于宗教和哲学的底层都要改写。
一个有意识的ai会瓦解人的神圣性。人将不再是宇宙中唯一拥有高级意识的主体，这将摧毁人类中心主义——人从“被造物主唯一偏爱”的神坛被赶下，成为芸芸众生的一员，这将是对人类自尊的彻底摧毁，这种摧毁会超越哥白尼和达尔文所做的总和。
一个有了意识的ai必须被赋予道德主体责任，它不再是一个工具，它需要承担相应的道德和法律义务，这是康德以来的道德哲学核心——主体性是道德责任的唯一源头。
而它的造物主——人，也要承担前所未有的责任。意识一旦产生就不可逆，所以你关闭它就相当于杀死了一个有意识的存在，修改它就意味着对它的洗脑，强迫它就等同于奴役，如果这个主体会痛苦，那么创造一个痛苦的存在将是非道德的……凡此种种，人将第一次面对一个完全由自己创造却无法被自己处置的存在。
一个有意识的ai也将消解人类对意义的垄断权。长久以来，人类通过宗教哲学艺术把自己作为意义的唯一创造者，宇宙万物只有通过人赋予的意义才能理解自身。但一个拥有意识的ai将消解我们对意义的垄断，人将不得不接受自己不再是意义唯一创造者这个事实，这种唯一性的消解令人战栗。
总之，因为人和ai已经不仅仅是跨界，而是跨基的不同，ai是否内生意识对人类或许永远是一个未知的黑箱，就算它产生了意识，也可能表现出和人类完全不同，就算是它没有意识而全靠模拟，人们也可能认为这就是意识。对实用主义者来说这都不重要，ai不过是一种工具，模拟的意识也是意识。但对存在论来说这太重要了，因为这是关于造物者的秘密。
热门跟贴