作者:伯衡君

打开网易新闻 查看精彩图片

本地 AI 会被封杀?Nvidia 在卡你速度?扒皮之后全是另一回事

概述

你的硬盘里躺着一个小模型,最近几天,网上的信息却让你坐不住了。

打开网易新闻 查看精彩图片

两条说法来势汹汹:一条说"他们要封杀本地 AI",另一条说"Nvidia 悄悄把你的 RTX 卡跑成半速来限制 AI"——每条都配着一句催促:赶紧去囤权重,或者现在就去显卡驱动下面塞一个内核模块。

听着吓人,对吧?但真相往往没这么戏剧化。

这篇把这两条说法一条条拆开查证:封杀说的证据在哪,那些真实落地的法规到底管什么,已经在你电脑里的模型到底能不能被"远程关掉",以及那个"Nvidia 半速"背后真正的技术真相。

适合所有跑本地模型、或者正想入手显卡跑 AI 的人,读完你就知道该不该信、该不该动手了。

恐慌是怎么来的:两条传闻,一个套路

先把你硬盘里那个模型摆到台面上。

最近你的信息流同时喂给你两件事:他们想封杀本地 AI;Nvidia 一直把你的 RTX 卡跑成半速。两件事都带着同一种催促——趁还能用赶紧囤,或者赶紧去驱动下面装个内核模块。

我得说,这个时机挑得很妙。恐慌这种东西,最怕的就是一片祥和。只要让你觉得"再不动作就晚了",你哪还有心思去查证?

但越是催你马上动手的消息,越值得你先停三秒。这次我偏不急着囤,先看看这两条到底有没有真凭实据。

这一查,还真给我查出了点名堂。

翻遍那篇"元凶"文章,一个字都没提封杀

打开网易新闻 查看精彩图片

所谓的封杀源头,指向一篇东西——Anthropic 掌门人 Dario Amodei 写的《We Must Pave the AI Frontier》。

这篇长文的核心主张,是呼吁前沿 AI 公司放慢能力提升的节奏。听起来挺像那么回事,对吧?可你拿"封杀""本地""开源权重"这些词去全文搜一遍,结果呢?

零命中。一个都没有。

打开网易新闻 查看精彩图片

有个叫 paddo dev 的独立核查也做了同样的检查,没发现任何封杀开源、封杀扩散的表述。你可以说这篇文章的字眼没堵死所有可能性,但至少能说明一点:那篇被当成"封杀令"的文章,通篇根本没点名要动本地模型。

好家伙,光是这一条,一半的恐慌就该散架了。

真正的法规来了,但管的压根不是本地

恐慌归恐慌,这个月其实真落地了两条规则,而且都够写进标题。

打开网易新闻 查看精彩图片

中国这边,10月16日,商务部和科技部发布了2026年第48号公告——一份出口管制清单的草稿,征求意见开放到11月15日,并要求受控技术出境前完成登记。看清楚关键词:出口。

打开网易新闻 查看精彩图片

瑞典那边也有个禁令,同样落在"不准出境"这个方向上。

你发现没有?这些规则管的全是"技术离开某个国家",而不是"你电脑里那个模型在不在跑"。两条法规的标题随便拎一条都能当热搜,但它们的射程根本够不到你本地那块满是灰的显卡。

说白了,这跟"你桌上能不能放杯水"是两码事——看起来很吓人,其实碰都没碰你的桌面。

为什么你盘里的模型,谁也关不掉

那退一万步,技术层面有没有可能被"远程掐掉"?

打开网易新闻 查看精彩图片

有经验的人都知道一件事:本地工具把下载的模型当成一包缓存文件。Hugging Face 的库文档写得明白——你把 HF_HUB_OFFLINE 这个环境变量一设,它就完全不发任何 HTTP 请求,下载请求全部从本地缓存里喂给你。

打开网易新闻 查看精彩图片

另一边,llama.cpp 的官方目标就八个字:本地推理,最少配置。

这意味着什么?意味着你已经躺在硬盘上的那个模型,本质就是你机器上的一堆文件。文件在自己手上,运行不运行,只取决于你和你的硬件,不需要任何第三方的许可。

这就像你书架上那本书——书商可以不再印,平台可以下架,但你手里这本,谁也拿不走。

话说到这份上,道理已经很明白了。

真正有点意思的:Nvidia 到底有没有"半速"

轮到那条 GPU 传闻了,这才是全篇最硬核的地方。

打开网易新闻 查看精彩图片

你的显卡里有一组专为矩阵运算打造的单元,叫张量核心,它的速度按不同数据精度分开标。比如 RTX 3090 在 TF32 精度下是 35.6 teraflops。

2023 年,有人在 Nvidia 官方论坛拿 3090 的这套公式去套专业卡 A40——结果算出来只有那张卡官方标称 74.8 的一半。Nvidia 的工程师 Robert Crowlla 亲自下场回复。

于是"Nvidia 把专业卡性能腰斩"的说法就传开了。但我告诉你,这里埋着一个关键的混淆:标称值 vs 实际跑分,建模公式和真实瓶颈,根本是两套东西。

别急着下结论。

去翻装完内核模块之后的实测数据,答案就明白了。

在解码阶段——也就是模型一个 token 一个 token 往外蹦字的那个阶段——装了模块跑 97.2 token/秒,不装是 96.7。差多少?零点五个百分点。

摊开算,大概是每两秒多蹦出一个字。这就是网上被吹成"翻倍"的真相:在聊天框里,它长这样。

为什么差这么点?因为模型每写一个字,都要把权重从显存里读一遍。3090 的显存带宽大概是每秒 936GB,瓶颈卡在"搬运数据",根本不在张量核心的算力上。你就算把那边的速度翻倍,门口这条窄路还是堵着。

就好比你给厨房换了个顶级烤箱,但端菜的通道还是那扇小门——菜不会快多少。

再好的锅,也经不住门太窄。

最后结论:该不该囤,该不该装

那到底怎么办,挨个给你划重点。

首先,如果你手上有张 RTX 3090 在跑本地大模型——你盘里那个模型,跟这一整出戏完全不沾边。今晚什么都不用囤,躺好睡觉就行。

真正能改变局面的,是两件事:未来的新模型发布,还有你公司那些不让你摸的规矩。这才是你真正要盯的变量。

至于那个 GPU 解锁,它是真的,但它大幅提速的是"读长提示词"那个阶段(prefill),对"看文字往外蹦"的速度几乎没帮助。想试的话,除非你的瓶颈确实在 prefill,而且手上有张不怕造坏的卡——别忘了,作者自己也说长期安全性还没被验证。

恐慌减半,判断加倍。这就是本地 AI 玩家现在最该做的事。

篇后寄语

回头看这一整出,其实挺应景。

"他们要封杀本地 AI"和"Nvidia 在卡你速度",两条都是能上热搜的标题,也都真能吓住人。可真扒开看,一篇通篇没提封杀的文章、两条只管出口不管你桌面的法规、和一个在聊天框里只有 0.5% 差距的"翻倍"——这出戏的布景,比剧情值钱。

不是让你从此对任何消息都充耳不闻,而是提醒你:越是催你"赶紧动手"的恐慌,越要先给它三分钟查证。

你手上那个模型,比你想象中稳得多。

我反正,把囤东西的念头放下了。

概念释义

  • 张量核心(Tensor Core):GPU 中专为矩阵运算设计的硬件单元,是深度学习推理和训练加速的关键,其速度按数据精度(如 TF32、FP16)分别标称。
  • 解码阶段(Decode):模型生成回答时逐个输出 token 的阶段,受显存带宽限制,与读取大段输入的处理阶段(Prefill)瓶颈不同。
  • Prefill:模型读取并处理整段输入提示词的阶段,对算力敏感,与逐步输出的解码阶段是两种不同的瓶颈。

以上,既然看到这里了,如果觉得不错,随手点个赞、收藏、转发三连吧,如果想第一时间收到最新黑科技,敬请关注行运设计师。

谢谢你看我的文章,我们,下次再见。

参考资料

  • Dario Amodei 的文章《We Must Pave the AI Frontier》
  • 中国商务部、科技部 2026 年第 48 号公告(出口管制清单草案)
  • Hugging Face 离线模式(HF_HUB_OFFLINE)官方文档
  • llama.cpp 本地推理项目说明
  • Nvidia 官方论坛关于 RTX 3090 / A40 张量性能的讨论