这一阵关于 AI 的头条,几乎都是"大"的。
做 DeepSeek 的梁文锋,据说以三百多亿美元的身家登上了全球 AI 富豪榜第一;
另一家国产大模型公司刚在港股配售募了三百多亿港币,继续加码。
再往前几天,一周里冒出来三四个新模型,参数一个比一个吓人。
整个行业听上去就像一群人在比谁家的锅更大,大到能炖下一头牛。
一家叫 PrismML 的公司,把一个两百七十亿参数级别的大模型,第一次完整地塞进了一部手机里。
不是联网调用云端那种"假装在手机上跑",是真的下载到本地、拔了网线也能问它问题的那种。
他们用了一种把每个参数压到一比特左右的狠办法,硬生生把原本要占一大块内存的模型,挤进了一台旗舰手机装得下的空间。
第一反应不是"哇好厉害",是愣了一下:这不跟前面那些新闻,正好拧着来吗。
一边在造巨无霸,一边在做缩小术
过去三年,AI 这行的隐形 KPI 就俩字:更大。参数更大、训练的机器更多、烧的钱更狠。
谁家的模型大,谁就显得先进,融资的时候底气也足。大,是一种身份。
但你要是仔细听这个夏天几家大厂发新模型时说的话,会发现风向悄悄变了。
以前发布会上炫的是"我们又大了多少",现在挂在嘴边的词换成了:更快、更省、更便宜、同样的活用更少的算力干完。
一个憋着劲比了三年谁更大的行业,突然之间,开始有人拿"我做小了"当卖点。
这个转弯,比多冒出来一个新模型有意思多了。
做大,某种程度上是靠钱堆的。买更多的卡、盖更多的机房、拉更多的电,只要有人肯投,规模总能往上顶。
可把一个原本要一整排服务器伺候的东西,压到能钻进你裤兜里的手机,还得让它别变傻,这活儿堆钱堆不出来,得真有点手艺。
它考的不是谁家有钱,是谁家舍得在"减法"上下功夫。
"小"这件事,其实是冲着我们来的
为什么对这条新闻上心?因为大和小,落到普通人身上,是两种完全不同的东西。
云端的大模型再聪明,你跟它说的每句话,都得先出门、跑到别人的机房里绕一圈,再把答案送回来。
你没网的时候它就哑了,你说的话它顺手也就存了。它聪明是聪明,但它不在你这边,它在人家那边。
塞进手机里的那个,不一样。它就待在你兜里,飞机上、地铁隧道里、信号格全空的山里,照样能答话。你问它的东西,压根不用离开这台机器。
一下就想到我妈。前阵子教她用手机上的 AI,她学得挺快,可每次张嘴前都要犹豫一下,压低声音问我一句:"我这么问,它是不是都记下来了、传到哪儿去了?"我当时含糊地说"应该……还好吧",其实心里也没底。
像她这样的人多得很,不是不想用,是心里有根刺,总觉得对着一个联网的东西说话,像是当着一屋子看不见的人。
如果那个足够聪明的 AI,能整个搬进这一台手机、断了网也照跑,我妈那句犹豫,说不定就没了。
当然,也没那么容易被说动
话说回来,也不至于看一条新闻就热泪盈眶。硬压出来的小模型,到底还剩几分本事,是要打个问号的。
把参数从十六个字节压到一个比特,听着痛快,可它答题会不会变得东一榔头西一棒子、关键时候掉链子?
这些没真上手用一阵子,谁也说不准。"能跑起来"和"好用",中间隔着好大一段路。
而且"小、省、快"这几个词,也太容易变成新一轮的营销话术。
今天比大是营销,明天比小说不定又是另一种营销,兜兜转转,卖的还是同一份焦虑。
这行的热闹,大家早学会打个折再看。
但抛开这些,有个方向觉得是真的:
这些年 AI 一直在往云上飘,越飘越高、越飘越大,飘到普通人只能仰头看、掏钱用。
而"把它做小"这件事,是头一回,认认真真地想把它从别人的机房里,往你自己的口袋里搬。
大,是让 AI 更强。小,是让 AI 更像是你的。
这两件事,从来不是一回事。
所以那些三百亿、三百亿的大新闻,扫一眼也就过去了。反倒是"有人第一次把它整个塞进了一部手机"。
让人多想了一会儿,等哪天我妈问它话的时候,不用再压着嗓子、也不用回头看我一眼,那才算,它真的到我们这边来了。
参考资料
- PrismML 推出 Bonsai 27B 模型:低内存占用让 27B 大模型在 iPhone 原生运行 | ITBear 科技资讯
- 首款 27B 级模型成功在手机端运行:Bonsai 27B 借助 1-bit 量化技术突破算力限制 | 80AJ
- 大模型"瘦身"潮来袭,DeepSeek 冲刺 IPO | CSDN
热门跟贴