我翻过的几乎每一篇指南都给出了同样的建议:如果你想运行本地 LLM,就需要一块独立显卡。我的机器上已经有一套自托管的 AI 环境,配着 Nvidia GeForce RTX 5070,跑得很顺畅,所以我很清楚本地 LLM 用起来顺畅是什么感觉。这让我开始好奇,这种体验有多少能在一台只有集成显卡的笔记本上还原出来。我没有依赖基准测试或网上的说法,而是决定用我平时用 AI 时的同一个模型、同样的日常任务,自己亲自测一测。结果比我预想的好太多了。

我的测试环境长这样

我的测试环境长这样

一个真实好用的搭配,不是什么跑分专用机

一个真实好用的搭配,不是什么跑分专用机

打开网易新闻 查看精彩图片

这次实验,我决定用我爸的第二台笔记本。它用的是 AMD Ryzen 7 5825U 处理器,带集成 Radeon 显卡,16GB 内存,很多人手里就是这样的配置。

为了简单起见,我装了 Ollama,在本地跑 Gemma 3 4B。根据任务不同,我用命令行或者图形界面来跟模型打交道。我特意选择 Gemma 3 4B,因为它足够小,可以在普通硬件上运行,同时还能应付日常任务。我没去追什么跑分,而是想搞明白:本地 LLM 在一台没有独立显卡的机器上到底能不能派上用场。

我选择 Ollama 搭配 Gemma 3 4B 的另一个原因是我对它比较熟悉。我那台性能更强的台式机上用的就是这套组合,那台机器搭载英特尔酷睿 Ultra 9 处理器、32GB 内存和 Nvidia GeForce RTX 5070 GPU。软件和模型都一样,比较两台机器上的体验就方便多了。

在整个测试过程中,我用这个模型的方式,跟我平时用云端 AI 工具一模一样。我让它帮我出博客点子、总结文章、解释技术概念、改写段落,以及解答日常问题。这些事我几乎每天都在做,所以比起那些跑分测试,这更能看出实际用起来到底好不好使。只要日常用着够顺畅,那比什么跑分都重要得多。

我原本没抱太大期望

我原本没抱太大期望

但第一次的回复让我改变了看法

但第一次的回复让我改变了看法

开始这项测试之前,我其实没抱多大希望。大多数关于本地大模型的讨论都让人觉得,想要有个像样的体验,独立显卡是最低门槛。这台笔记本用的只是集成的Radeon显卡,我以为每个提示词都要处理很久,回复速度会慢到没法日常使用。

但事实并非如此。让我意外的是,Gemma 3 4B直接就加载成功了,一点问题都没有。发送第一个提示词后,等待的时间远没有我预想的那么长。回复速度虽然比不上云端运行的ChatGPT那么即时,但速度足够快,完全没有跟硬件较劲的感觉。更重要的是,回答的质量跟我在性能更强的台式机上用同一个模型时的表现完全一样。

在我继续测试的过程中,我不再盯着笔记本的配置参数看,而是专注于任务本身。无论是请求写作建议还是总结内容,体验都足够流畅,流畅到我真的觉得自己每天都会用它。就在那时,我发现自己之前想当然了。集成显卡并没有阻止我运行本地LLM,它们只是决定了我能流畅跑什么样的模型,这个限制是合理的。

集成显卡不是瓶颈

集成显卡不是瓶颈

前提是内存够用、模型选对

前提是内存够用、模型选对

使用这台笔记本电脑一段时间后,我意识到集成显卡并不是影响性能的最大因素。内存和模型大小的影响要大得多。有16GB内存,Gemma 3 4B跑起来绰绰有余,系统也不会卡。我可以一边开着浏览器和Ollama,一边正常用笔记本。

模型的选择同样重要。如果我当时尝试加载一个更大的模型,我敢说体验肯定完全不一样。更大的模型需要更多内存和算力,所以指望它们在集成显卡上跑得顺畅,那是不现实的。但这不光是集成显卡的问题,而是整个硬件的问题。

这次测试提醒我,每台电脑都没有什么通用的“最佳”模型。一个跟你的系统匹配得好的轻量级模型,通常比硬跑一个大得多的模型体验更好。就我这台机器来说,16GB内存、集成Radeon显卡加上Gemma 3 4B,这个搭配的效果比我预想的好太多了。

你也许并不需要升级GPU

你也许并不需要升级GPU

这个实验彻底改变了我对运行本地AI的看法。我不再认为独立GPU是每个人入门的前提。如果你的目标是写作、学习、研究或其他日常AI任务,那么你现有的笔记本电脑搭配合适的模型可能已经足够用了。当然,如果你想运行更大的模型或需要极致性能,独立GPU仍然有意义。但在花钱购买新硬件之前,我建议先试试轻量级模型。你可能会惊讶地发现,你现有的设备已经能做这么多事——就像我一样。