ChatGPT每次回答你一个问题，背后要烧掉的电，够一个普通家庭用上大半天。
可陶哲轩偏说，这玩意儿底层的数学，高中课本里都写过。
不是玩笑。这位菲尔兹奖得主把大模型拆了个底朝天，结论就一句话：核心只有两样东西——微积分，矩阵乘法。
先别急着关页面。你可能觉得数学离你很远，但今天这篇，是让你以后再看到“AI黑箱”“神经网络玄学”这种词时，心里能稳如老狗。
咱们把这事儿聊透。
模型训练，说白了就跟你教小孩认猫认狗一个道理。
第一次它把猫认成了狗，你怎么办？你会说“错了，这是猫”。模型也一样，它算出一个答案后，会跟自己比对——差了多少，错在哪儿。
微积分在这时候登场了。它的作用就一个：算出来每个参数对这次错误“贡献”了多少。
打个比方，你有一千个旋钮，模型答错了题。微积分帮你算出，第三个旋钮往左拧半圈、第七个旋钮往右拧一圈，下次答对的概率最高。这个过程叫梯度下降，名字听着唬人，其实就是下山找最低点——哪儿坡最陡就往哪儿走，走到谷底就停。
那矩阵乘法呢？更直白。
你把模型想象成一个巨大的Excel表格，里面密密麻麻全是数字。你输入一句话，也变成一行数字。两个表格一乘，出来新的数字，再往下一层乘，一层一层叠上去，最后吐出一个答案。
就这么回事。
你说“苹果手机好用吗”，模型先把这句话转成一串数字向量，跟第一层参数矩阵做乘法，得出中间结果，再乘下一层——重复几十上百次，最后输出“苹果手机在系统和生态方面有优势”。
它为什么知道“苹果”既可能是水果又可能是公司？因为矩阵乘法在计算时，会自动把“苹果”这个词跟周围词的关联度算出来。周围是“手机”“iOS”，它就往科技方向靠；周围是“甜”“好吃”，它就往水果方向走。
注意力机制听起来高级，拆开看，也就是两个矩阵相乘，算词跟词之间的关联权重，再加权求和。
到这里你可能会问：就这？那为什么大模型这么难搞？
答案不在数学，在规模。
一个千亿参数的大模型，做一次前向计算，矩阵乘法的次数是天文数字。训练它，要把海量数据反复喂进去，每一步都算梯度、调参数，循环几百万次甚至上亿次。
你拿纸笔也能模拟一个小模型。三层矩阵，手动调参，跑一个玩具版聊天机器人出来，一个周末足够。但要让它在真实场景里好用，参数量、数据量、算力，三个量都得往上堆。堆到一定程度，效果就自然涌现出来了。
这不是数学的胜利，是工程的胜利。
所以那些把AI说得神乎其神的科普，要么是没搞懂，要么是故意让你觉得“你不配懂”。
陶哲轩的意思很明白：底子就这点东西。微积分管优化，矩阵乘法管计算，两样配合，一个负责调方向，一个负责出结果。模型卡住了学不动，是微积分在找原因；模型能说话能写文章，是矩阵乘法在硬算。
你真正该关心的，不是它背后有没有魔法，而是它这么算，什么时候会犯错、为什么会犯错。
看完这些，再有人跟你说“只有博士才能搞懂AI”，你可以告诉他：原理层面，高中底子够用了。复杂的是规模，是数据量，是算力成本——但这些是钱和时间的问题，不是智商的问题。
想上手试试？装个Python，跑几个矩阵乘法，写个简单的梯度下降调参demo，一个下午你就能看到模型从瞎猜变成猜得有点准。
那一刻你大概会跟我一样，觉得所谓的人工智能，其实挺实在的。
热门跟贴