我几乎不用谷歌翻译，所以这次谈不上“弃用”。真正想搞清楚的是：把翻译这件事整个搬到自己电脑的显卡上，不联网，到底有多难。结论比预想的更有意思——自托管大模型这条线，已经走得相当远了。

打开网易新闻 查看精彩图片

先把话说清楚：谷歌翻译在它擅长的范围内没什么可挑的。免费、几乎任何设备都能打开，翻个餐厅菜单、路牌，或者在亚服被对手喷了一长串，它都够用。问题在于，太方便的东西容易让人忘了还有别的选项。

第一个限制是联网。谷歌确实有离线语言包，大体也有用，但体验和在线版差得很远。网络不稳、服务被挡、流量又贵的地方，再熟悉的工作流也会变成麻烦。

第二个是对文本的控制权。敏感文件发给在线服务，未必合适——不管是机密通信，还是单纯不想让第三方再处理一遍你的内容。本地推理给了一个直白的替代方案：文本和翻译过程都留在自己机器上。

第三个是灵活度。传统翻译器通常只给你一个译文，语气、术语、面向谁，基本不解释。语言模型则有可能照顾到这些指令，当然效果取决于模型本身。

说这些就让谷歌翻译“过时”，那是夸张。但它确实让本地方案值得一试，尤其是搭起来比想象中容易。

我的配置有三个部分：用 llama.cpp 跑模型，模型本身，以及一个把两者接到浏览器里的 Chrome 扩展。选 llama.cpp 而不是 Ollama，是因为它的服务端暴露了一个能配合我选的浏览器集成的端点，整套流程相对简单。

RTX 4070 Ti 的 12GB 显存已经开始让我觉得不够用，所以模型尺寸得现实一点。我最终选了 Gemma 4 12B（Q4_K_M） 和 Qwen3.5-9B（Q5_K_M） 做实验，它们能覆盖我不同的语言需求，又不会溢出到慢得多的系统内存里拖住响应。

llama.cpp 跑起来、开启 GPU 卸载之后，两个模型都被限制在显卡上，通过浏览器里的 llama.cpp Web UI 提供服务。模型在服务端加载就绪后，我装了 Margin 这个 Chrome 扩展，它允许我把自托管的 llama.cpp 服务明确指定为翻译模型。不用把大段文字复制进 Web UI 去求 Gemma 4 帮忙——把 Margin 指过去，扩展就用我本地托管的模型实时翻译网页。

欧洲语言我用 Gemma，体验很好，译文对我的需求来说足够自然，也没遇到什么让我想退回云端流程的问题。至于日语、中文、韩语这些，托管 Qwen3.5 在保住语法准确性上明显更能打。

我不建议每个人都花一下午去搭本地翻译模型。快速翻点东西，谷歌翻译仍然方便得多，也不是人人都需要为了看懂一份外文菜单去跑一个大模型。

但如果你经常处理技术文档、做外文资料研究，或者手上有保密合同、禁运材料这类在法律上根本不允许交给第三方云端翻译的东西——比如受 NDA 约束的材料——把翻译完全留在自己的硬件上，好处就相当实在了。

大家聊自托管大模型，总爱说隐私，但这不是唯一的卖点，也不是最大的那个。本地模型能做的远不止把词从一种语言搬到另一种：你可以明确要求它保持某种语气、解释文化差异、保留技术术语，或者让一段话更自然又不丢原意。让谷歌翻译稳定地同时遵守这么多指令，可以试试看。

这种灵活度在“用外语写消息”时特别有用——听起来像真人，比语法正确但别扭的句子重要得多。你还能用对话的方式反复调整译文，让模型改措辞，直到满意为止。

其他人嘛，谷歌翻译够用了。但如果你需要对译文有更强的控制，本地模型值得这份折腾。

我不会为了少开一个浏览器标签就去搭本地翻译模型，但看着这台游戏 PC 变成能干远不止快速渲染游戏画面的工具，确实很爽。RTX 4070 Ti 在游戏里已经扛了不少活，再给它派一份差事，像是把已经拥有的硬件榨出更多价值。

只要肯动手，本地 AI 工作流能替掉我们用的每一项云服务，这件事本身就挺让人服气。不用等某家公司决定我们需要什么功能、该接受什么限制、某个工具还配活多久，我们自己就能搭出相当能打的替代品。