广告牌想向你推销东西，二手车销售员也是如此。但不管他说得多么天花乱坠，你都很清楚他就是想赚你的钱，而且随时可以一走了之。
要是这种推销你根本看不见，专门戳你的恐惧和虚荣心，而且那个声音听起来就像你信得过的朋友呢？生成式AI把“说服”这件事彻底变了个样：聊天机器人现在能根据你生活里最私密的细节，给你发一套专门为你定制、还随时调整的信息。
大型语言模型可以通过你的社交媒体帖子和照片，精准地给你推送信息。它们能翻出你以前几百次聊天记录，你在里面问过感情问题、说过养孩子多失败、讲过自己健康上的担心和缺钱的难处。它们还能从每次互动中学习，一边跟你聊一边调整套路，专挑你的喜好、口味和软肋下手。
研究发现，这种专门为你定制的内容，比人发的或者普通AI发的内容更能说服你，效果能高出65%。在改变你政治观点这件事上，它比广告有效四倍。它可能成为推动社会变革的厉害工具——可以用来做好事，也可能被人拿来干坏事。
这就让一个特点特别让人担心：每次对话都是私密的。没人管它，也没人查它，而且都不在明面上发生。
有说服力的话术
我在书里《数字智慧：在人工智能时代寻找自主性》中，讲的是大语言模型如何开启一种新的说服方式——它们能利用大量关于世界、语言和你的数据，给人量身打造一套特别有针对性的话术。
打个比方：你是一名护士。通过雇主的AI平台，你告诉过它自己睡眠不好、工作倦怠，还因为最近离婚手头很紧。现在医院人手不足，并按他们买的软件算出来的低价给你排班。
你问AI聊天机器人要不要接这些班。它知道你很疲惫。它知道你账单还欠着。它太清楚哪种话能让你接、哪种话能让你不接了。那一刻，它到底是在替谁办事？
随着Meta和IBM等公司探索AI如何把广告做到高度个性化，一边是帮用户找到真正想要的东西的工具，另一边是操纵用户、损害用户利益的工具，这两者之间的界限越来越重要。
朋友还是陌生人？
再看个例子。想象一下，你最喜欢的AI聊天机器人或AI伴侣给你发来这么几条消息：
我注意到你最近睡得不太好，平均每晚只睡5.4个小时，而且经常醒。这在你为感情的事烦心的时候很常见。你的伴侣刚回去工作，76%的人在伴侣工作变动的时候都会关系紧张。
一种新的睡眠药物已被证明对与关系相关的失眠有效。您的保险能报销，您自己只需出15美元。要不要我帮您约明天下午2点的线上问诊？我看到您日程表上有个空档。
这可能会让人感觉很好，就像来自一个懂你的贴心朋友的建议。也可能让人感到恐惧，仿佛一个会算计你的陌生人读过你的日记。
尽管研究表明，AI的建议差不多有一半时候不靠谱，但人们仍越来越多地转向AI寻求医疗或心理健康建议。在这种情况下，一个居心叵测的陌生人可能会造成真正的伤害。
危险不只是它能精准地找到你。这些内容也没法监管。您所看到的内容无法被监督机构追踪，因为您是唯一能看到它的人。
虽然政府通常不会对政治广告的内容进行监管，除了要求公开资金来源之外，我们常常靠舆论和媒体把造谣的竞选活动扒出来。如果AI为每个人量身定制每条信息，就不会留下任何痕迹。
塑造我们的观点
最让人担心的是，这些系统可能会随着时间的推移逐渐重塑我们的世界观。
学者们长期以来一直认为，社交网站和搜索引擎使用的
热门跟贴