你以为都是自己在做决定。至少大部分吧。
可你总是去那几家店,吃的东西也差不多,情绪上会怎么反应,也有一套固定套路——真有人问起,你大概也说不清。人类行为比我们愿意承认的要好预测得多。
这就带出一个让人不舒服的问题:要是别的什么东西先注意到这个规律,会怎么样?
人工智能一年比一年更懂人。它替我们挑看什么电影、买什么东西,连此刻背景里正放着的音乐也是它选的。我们大多数人只把它当成一个能省点儿时间的方便小工具。
但假设它不断改进,直到能预测关于你几乎一切的事情。
想象一个系统,它比你最亲密的朋友更了解你的日常。你何时醒来,通勤要多久,睡前浏览哪些网站。每一次搜索、点击和消息,都为这份画像再添一块。
起初,这听起来确实很有用。一个助手提醒你重要事件,建议更健康的习惯,完美安排你的日程。效率高到人们几乎事事都依赖它。
然后,预测开始跑到你前面。
它或许连你下个月要买什么、哪个度假目的地会让你心动都知道。它能相当准确地预判你未来的选择,准确得让人不安;在某些情况下,它足够了解你的习惯,甚至能在你还没真正意识到要做什么之前,就预判出你会怎么做。
不过,事情还有另一面。
研究人员已经在开发能克隆声音、生成逼真数字人脸的系统。只要信息足够,人工智能几乎可以给任何人做出一个以假乱真的虚拟版本。
如果有个东西,说话、写字、做事都跟你一模一样,那么你的身份到底到哪儿为止,模仿又从哪儿开始?朋友家人可能真会犯难,分不清哪个是复制品、哪个是本人。
再说情绪这回事。
一套先进的系统能根据你声音的细微变化判断你有没有压力,还能从你的网上活动看出你难不难过。通过分析数百万次互动,它能摸清哪些话能鼓励你,哪些话题会让你心烦。
有了这些了解,它就能获得非同一般的影响力。它可以决定你能接触到哪些信息,左右你的决定,而你一点都不会觉得有什么不对劲。
注意,这里面根本不涉及强迫。一个足够先进的人工智能,根本用不着逼任何人做任何事。它只会变得特别会说服人。
所以,真正吓人的场景,并不是机器人反过来对付我们。
更该担心的是这样一种世界:人们心甘情愿把自己生活里的每个细节,都交给那些从不停下学习的系统。时间一长,这些系统就会以惊人的准确度知道我们的长处、软肋、恐惧和欲望,因为这些都是我们自己告诉它们的。
人工智能或许永远不会成为科幻小说里那种大反派。可它照样可能以我们到现在还没怎么弄明白的方式重塑社会。
而当算法比你自己更了解你时,最难回答的问题,不是它可能会怎么对你。
而是你原先叫作‘自由选择’的那部分,到底还剩下什么。
热门跟贴