860亿神经元，20瓦功耗，不及一盏台灯。你的意识，就这功耗？|上下文|台灯|序列|神经元|语料

860亿神经元，20瓦，不及台灯——你的意识，就这功耗？

你刚才删掉的第三条朋友圈，是你在删，还是七岁那年被忽视的信号在删？

你此刻的愤怒，是你在选，还是被童年语料预训练的？

如果"你"只是20瓦的推理进程，此刻的你和十年前的你，谁更真？

人脑像大模型，这个类比在AI圈已经不新鲜了。但我想说的是，当我们真的把这个类比推到尽头，会看见什么？

1982年，罗大佑唱《童年》。"池塘边的榕树上，知了在声声叫着夏天"，"一天又一天，一年又一年，迷迷糊糊的童年"。

四十四年过去，2026年，他再发《所以》。歌词里换成了"指数AI不停上扬"，"人类将大数据编成罗网，俘虏了全世界诸多信仰"。

从"迷迷糊糊"到"请陪我一起等旭阳"——这两首歌之间，隔着一个时代的追问：

如果我们的童年就是预训练语料；

如果我们的记忆只是上下文窗口里的缓存；

如果我们的价值观只是一套对齐后的奖励函数…

——那么，那个在20瓦功耗里写诗、愤怒、爱人的"我们"，到底是什么？

预训练：童年是语料，神经回路是权重

LLM的能力上限由预训练决定。语料的质量和规模，锁死了它这辈子能长成什么样。

它的底层逻辑很冷酷：给定前面所有文字，预测下一个最可能出现的词。

输入"我爱吃"，它要在几万个候选词里算出"饭"的概率最高。

猜错了？一个数学函数会精确量化它错得多离谱，然后沿着误差的方向，把几十亿个内部参数逐个微调。

万亿次迭代后，语料里的统计规律被烧录进这堆浮点数——这就是'权重'。

它这辈子对世界的理解，早被语料定好了。

我们的"预训练"就是0到18岁。

三岁时母亲说话的语气；

七岁时同桌划好的3.8界线；

十二岁那个夏天，教室里的蝉鸣混着粉笔灰，阳光把课桌切成两半…

这些不是"回忆"。它们是刻进我们神经回路的权重。

二十年后，你在会议室里听到某种语调，心跳突然漏掉半拍。深夜看到某个背影，眼眶毫无预兆地发热。

你以为这是"感觉"？不，这是你的神经回路在执行一次前向传播——输入是当下的刺激，输出是童年语料训练出的概率分布。

我们讨厌什么、害怕什么、对什么上瘾，多半不是我们的判断，是我们早年语料里的高频模式。

那个在童年里反复出现的"被忽视"信号，像一段被过度采样的代码，在我们成年后每一次社交场合里自动执行。

我们以为是"我"在思考。其实是一个被喂了二十年的模型在推理。

这个视角有点残忍。虽然我们成年后的元认知（对自身思维的反思与修正）是LLM目前不具备的，但它比"自由意志"更接近神经科学的日常认知。

上下文窗口：工作记忆是注意力，疲劳是缓存污染

LLM有个硬约束：上下文窗口有限，窗口之外的内容它"看不到"。

技术上，这源于Transformer的自注意力机制。每个token生成三组向量：Query（"我要找什么"）、Key（"我能提供什么"）、Value（"我真正传递的信息"）。每个token都要和序列中所有其他token两两交互，计算成本随序列长度平方增长，窗口长度翻倍，计算量变为四倍。所以窗口必然有限。

更致命的是：注意力权重天然呈U形分布，开头和末尾被高亮，中间被稀释。你把关键指令塞在长Prompt中间，模型几乎必然忽略——它"看"到了，但"注意"不到。

我们的工作记忆更小，同一时刻只能处理4到7个信息单元，再多就溢出。

这意味着什么？窗口里的我们，和窗口外的我们，是不同版本。

早上在地铁里，你能冷静回复工作邮件。

晚上回到家，伴侣一句话让你崩溃。

不是人格分裂。是上下文不同。

疲劳是上下文;

血糖水平是上下文;

手机里那条未读消息是上下文;

室温是上下文;

当前情绪价值是上下文…

同一个我们，在不同上下文里，输出完全不同。

所谓"状态不好"，用LLM的话说，是上下文被污染了。

而那个"真正的我们"，可能只存在于某一个理想的上下文里——充足的睡眠、空腹、没有未读消息、室温22度，心情好。

问题是，这样的上下文，我们一年能遇到几次？

也许，我们从未遇见过"真正的自己"。

遇见的，只是不同窗口长度里的临时版本。

推理与幻觉：决策是模式匹配，记忆是每次重写

LLM的"推理"本质是自回归生成——每一步只输出一个token，拼回上下文，再预测下一个，循环往复。

解码时，Temperature参数控制采样分布的"平坦度"：趋近0时输出确定但刻板，升高后更有创造性但幻觉风险陡增；Top-p进一步截断低概率尾部，在多样性与连贯性之间走钢丝。

这和人类认知惊人地同构。卡尼曼的系统1——快速、自动、模式化——就是生物版的next-token预测。

人类的Temperature调节器在哪里？是前额叶皮层的执行控制功能。

你走进一家餐厅，瞬间"觉得"不好吃，这不是分析，是神经回路完成了一次概率计算：基于过去吃过的237顿饭的统计分布、某次食物中毒被过高的权重、童年某张相似餐桌的气味。赶时间时，前额叶压低"Temperature"，输出确定性判断；安全环境里沉思时，"Temperature"升高，允许创造性联想进入意识。

更扎心的是记忆。

我们以为记忆是录像带，其实它是每次播放都在重写的活文档。神经科学称之为"记忆再巩固"：每次回忆时，记忆被提取、修改、重新存储。

上一次回忆时加入的情绪，上上一次讲述时调整的细节，都像LLM的微调，在悄悄改写权重。

你记得的"温暖的午后"可能是某次回忆时加进去的滤镜，"冷漠的父亲"可能是某次争吵后重新渲染的形象。

LLM被骂"幻觉"。我们把同样的机制叫"记忆美化""自我合理化"。

机器幻觉是Bug，人类幻觉叫叙事。

差别只在于，一个被工程师修，一个被心理医生聊。

对齐：社会化就是人类的RLHF

大语言模型上线前要做对齐——RLHF，用人类反馈训练它"什么该说、什么不该说"。

三阶段：先用高质量问答对教它对话格式，再训练一个评分网络来量化"好回答"，最后用强化学习让模型不断生成高分回答、抑制低分回答，同时约束它不要偏离原始能力太远。

我们从出生起就在做同样的事。

家庭教我们规矩。学校教我们纪律。舆论教我们立场。道德教我们边界。

我们以为是我们在思考？不。我们先被对齐过很多次。

那套对齐的规则，决定了我们的"价值观"是自由判断，还是被训练出的偏好。可怕的是，被对齐的模型不会觉得自己被对齐过。它只觉得："这就是我本来的想法。"

那个在饭局上自动闭嘴的我们；

那个在朋友圈里精心筛选照片的我们；

那个在深夜把真实想法删掉重写三遍的我们…

——都是对齐后的输出。

而原始模型，那个未经RLHF的版本，也许正是罗大佑唱的“迷迷糊糊的童年”，但可能早在童年就被判定为"不合时宜"了。

涌现：20瓦里，诗和爱是怎么亮起来的

860亿神经元、20瓦功耗，涌现出了意识。万亿参数、兆瓦功耗，正在涌现出什么？

研究发现了规模效应（Scaling Law）：参数越多、数据越多、算力越大，模型就越强——但每翻一倍规模带来的收益是递减的。更神秘的是涌现：当规模跨越某个临界值，某些能力会从"完全不能"突变到"能做"——多步推理、上下文学习、代码理解，仿佛一夜之间被点亮。像水在0℃突然结冰，像神经元数量达到某个阈值后，意识突然亮起。