作者:伯衡君

打开网易新闻 查看精彩图片

PS4上跑本地AI,这操作太魔幻了

概述

前几天在网上看到一个视频,有人在一台破解版PS4上跑通了Qwen3.5-9B大模型。

第一反应是:索尼不把主机锁得死死的,你们就这么把AI塞进去的?结果越看越有意思——90亿参数的模型,跑在PS4自带GPU上,完全离线,无需联网,每秒能吐45个token。

我把整个过程从头到尾过了一遍,发现这件事背后不只是"老主机焕发第二春"那么简单。

前情提要

伯衡君此前介绍过PS5跑通大模型的事儿,我就盘算,PS4肯定也逃不过,没想到这么快就来了,如果你对PS5跑通大模型,感兴趣的话,可以参阅伯衡君此前编写的这两篇文章:

  • 《索尼都不知道!详聊吃灰PS5跑起270亿大模型,秒变免费AI服务器》
  • 《PS5破解彻底野疯了!御三家模拟器全跑通,拿下Steam,运行大模型》
一台躺在柜子里的PS4,突然有了灵魂

打开网易新闻 查看精彩图片

我第一次听说这件事的时候,脑子里闪过的第一个念头是:这不就是变相让退役硬件干新活吗?但仔细一想又不对。以前的旧手机装个轻量模型,本质上还是在跑推理;而Garlic LLM这个项目的逻辑是完全不同的——它不是用一个通用的嵌入式推理框架,而是直接拿PS4的主机GPU来跑整个Qwen3.5-9B的完整流程,从文本输入到结果输出,全程不需要连互联网。

这意味着什么?

意味着你手里那台吃灰的PS4,不再只是一台游戏机,而是一个100%离线的本地AI终端。你把问题丢给它,它给你一个答案,中间没有任何数据上传到任何服务器。

对于隐私敏感型用户来说,这个特性本身就有很大的吸引力。

当然,前提是你能接受它跑起来的速度。

Garlic LLM到底是个什么东西

打开网易新闻 查看精彩图片

这个项目叫Garlic LLM,发布在 Github。

页面上写着两件事:

打开网易新闻 查看精彩图片

第一,它是一个运行在PS4 GPU上的90亿参数AI;

第二,它用的是通义千问Qwen3.5-9B模型。官方还给了一个示例输出,展示了大概每秒45个token的生成速度。

说实话,45 token/秒听起来不多。对比一下现在的云端API,动辄几百上千token,这个速度差了不止一个量级。

但你换个角度想,这是在一台功耗100多瓦的游戏主机上跑出来的,不是什么高端显卡也不是什么专业算力平台。

用大白话讲,这就好比你用一辆家用轿车拉了一箱砖头跑高速——速度不快,但它确实走起来了,而且没有抛锚。

官方的安装说明里提到,固件版本从9.00到14.00都支持,覆盖了绝大多数的PS4机型。存储空间需要大约6GB,如果先把包复制到主机内部存储再运行则需12GB。需求很明确,门槛也不算高。

安装过程其实没什么神秘的

我在PS4 Pro(固件9.00)上演示了整个安装流程,步骤倒是很简单。

打开网易新闻 查看精彩图片

先准备一个USB驱动器,把Garlic LLM的1.19版本安装包放上去,插入主机,然后进入调试设置,找到包安装器,看到 garlic-llm-1.19.pkg 文件之后按X确认安装。

打开网易新闻 查看精彩图片

整个过程不需要联网,安装完回到主菜单就能看到Garlic LLM的应用图标了。

注意一点:这个流程依赖GoldHEN,也就是PS4的越狱工具。目前所有版本的PS4——初代Fat、Slim和Pro——只要能装上GoldHEN都能用。也就是说,只要是近十年内买过的PS4,基本上都有机会体验这套东西。

打开网易新闻 查看精彩图片

装完之后第一次打开应用,界面顶部会显示当前加载的模型名称,中间是大段的对话区域,底部有几个快捷操作按钮。

你按X可以输入文字,按L1切换语音模式,按R3开启思考模式处理更复杂的问题,按R1则直接进入MicroPython环境写代码。

这些按键布局设计得很直观,基本不用看说明书就能上手。

使用体验

打开网易新闻 查看精彩图片

我做的第一个测试是最基础的文本问答:"谁是第四任美国总统?"按X键输入,回车发送。屏幕上一行行文字开始滚动出现,几秒之后就给出了答案——詹姆斯·麦迪逊。

回看整个过程,数据完全没有离开过这台PS4,没有任何网络请求,完全符合官方宣称的100%本地运行承诺。

这里有个细节值得说一下。

很多人可能会觉得"这种常识题对AI来说不是秒杀吗",但恰恰是因为问了最简单的问题,才能排除外部因素干扰,验证这个系统是不是真的在本地跑。

如果真的连上了网,不管结果对不对,都不能证明它是纯本地的。

这个测试的意义不在于答案本身,而在于验证了底层架构的真实状态。

速度方面,90亿参数的模型在PS4 Pro上跑出大约45 token/秒的输出速度。基础版PS4的话会慢一些,大概是三分之一左右的水平。

作为对比,手机上跑同样规模的模型通常只有个位数token/秒,所以PS4的表现其实是相当惊人的。

打开网易新闻 查看精彩图片

接下来我试了一个更有意思的功能——语音交互。

插上一副USB耳机,按L1激活麦克风。系统先做了一段自我介绍,说自己是运行在PS4 GPU上的Garlic LLM。然后我问了"第五任美国总统是谁",对着麦克风说完松开按键,系统识别之后给出回答:詹姆斯·门罗。

这个过程最让我印象深刻的不是答案本身,而是整个链路——语音采集、语音转文字、模型推理、文字转语音——全部在PS4本地完成。没有云端API的介入,没有延迟等待的感觉,虽然生成速度不如实时对话流畅,但至少证明了这条链路是通的。

摊开说,我用过不少智能音箱的语音助手,那种响应速度和自然度确实比这个强太多了。但人家的背后是云端集群在支撑,而PS4上这套系统是完完全全自给自足的。两者不在同一个维度上比较,各有优劣。PS4这套方案的稀缺性在于它的离线属性——没有网络的环境也能用,这对于某些场景来说是刚需。

打开网易新闻 查看精彩图片

光聊天还不够过瘾,我又让模型帮我写了一个Python程序:"帮我写一个接收用户姓名输入并打印出来的应用。"这次用了思考模式(R3按钮),生成质量明显不一样。模型输出的代码结构清晰,包含了输入提示和打印语句,直接能用。

把代码保存到PS4内置的MicroPython环境中尝试运行。

打开网易新闻 查看精彩图片

第一次执行出了问题,报了语法错误。这时候按方形按钮,系统会把错误信息发给模型,让它自己分析并修复。模型检查后给出了修正方案,生成了一个简化版本重新运行,这次成功了。

这里暴露出来的一个现实是:当前的MicroPython环境可能不完全兼容标准Python的所有特性,特别是那些依赖C扩展库的部分。Garlic LLM给出的代码有时候会因为找不到某个模块而报错,但这并不意味着模型能力不足——更多的是平台限制。换句话说,问题出在执行环境而不是推理引擎本身。

如果你是在考虑把这个当做一个真正的开发辅助工具,建议先用更简单的指令测试,逐步摸清模型的能力边界,再尝试更复杂的任务。

API可能性令人期待

打开网易新闻 查看精彩图片

想象一下,如果你的PS4接入了家庭网络,开启了API访问权限,你就能够从另一台电脑上远程调用这个本地的Qwen3.5模型。

这种做法的价值很大。比如你用Claude Code这类CLI工具进行软件开发,正常情况下需要你付费使用云端API。

打开网易新闻 查看精彩图片

如果把PS4变成一个本地API端点,你就不必为每次调用付钱,也不用担心隐私泄露。更重要的是,在断网环境下,你依然有可用的AI能力——这对经常出差或者对数据主权有要求的人来说特别实用。

虽然这个功能还没出来,但方向已经定了。只要开发者继续跟进,后续的版本更新大概率会把这个能力加进去。

到时候,PS4就不再是一台游戏机,而是你家中的一个AI节点。

和云端方案相比,差距在哪里

坦率地说,目前这套方案的劣势也很明显。

首先是最直观的速度——45 token/秒听起来还行,但一旦涉及较长的上下文或者复杂的多轮对话,延迟感就比较突出。

其次是没有思维链的精细控制,当前版本暂时不支持temperature调整之类的参数配置。

第三是存储空间有限,虽然6GB能装下模型本体,但如果要存多个对话历史或者更大的数据集,很快就会捉襟见肘。

但反过来看优势也同样突出。

最大的卖点就是隐私——所有内容都在本地处理,不会经过任何第三方服务器。其次是零成本运行,除了电费之外没有任何订阅费用。

最后是硬件复用——那台本来要收进柜子吃灰的PS4,终于找到了新用途。

如果把它放在一个更大的技术光谱里来看,这类项目反映了一个趋势:人们越来越不想把自己的数据交给云厂商。本地化、私有化的AI解决方案正在从极客玩具变成实用工具。Garlic LLM只是这个趋势的一个早期注脚,但不是最后一个。

谁适合玩这个游戏

我的判断是,这类玩法更适合两类人。第一类是对技术好奇、喜欢折腾的玩家——你有闲置的PS4,想看看它能做什么超出原本设计范围的事。第二类是对隐私敏感的开发者或研究人员——你需要一个离线的AI能力补充,不想每次都依赖云服务。

如果你是前者,那我建议你花些时间去了解一下PS4的Homebrew生态是怎么运作的,GoldHEN的刷入流程是怎样的,以及基本的文件操作方法。这条路走的人不多,教程也比较分散,信息差本身就是最大的门槛。

如果你是后者,那我可以诚实地告诉你,现阶段Garlic LLM还不能替代你的主力AI工具。它更像是一个实验室里的原型,展示了一种可能性,而不是一个成熟的产品。等API功能和稳定性进一步完善之后,情况可能会有所改变。

无论如何,现在动手试一下是完全免费的。下载包不大,安装也不复杂,至少花不了太多时间。

风扇已经开始吼了

PS4的风扇已经开到了最大档,温度明显上升。这其实是一个很有意思的细节——意味着这台原本设计用来跑游戏的机器,正在承受着接近满负荷的AI计算压力。

从某种程度上说,这是一个时代的缩影。2013年发布的PS4,在发布十年后还在被重新定义和再利用。它的CPU和GPU架构并没有过时到完全无法使用,只是在软件生态和商业策略上被遗忘了。而社区的逆向工程努力,恰好填补了这个空白。

我想到的一个类比是:这就像你家里有一辆老爷车,平时停在车库里没人开。有一天你突发奇想,给它装了一套新的动力系统,结果发现它跑得还不错。虽然比不上新车的速度和舒适度,但那种自己亲手让老物件复活的感觉,是花钱买不到的。

技术迭代从来不是线性的。今天的废铁可能是明天的宝藏,关键看你有没有办法去挖掘它。

文本问答、语音对话、代码生成、自动调试,Garlic LLM在PS4上的表现虽然还有很多不足,但每一步都让人兴奋。90亿参数的模型能在十年前的游戏机上跑起来,这件事本身就够魔幻了。

如果未来加上API功能,再加上稳定持续的社区维护,这套方案或许会成为某种"家庭AI中心"的雏形。不一定高性能,但胜在私密、自主、零成本。

科技的进程有时候就是这么不讲道理。十年前谁能想到,你会在家里那台吃灰的PS4上跟AI聊天呢?说不准再过几年,这种玩法会变得像刷一个APP一样日常。

以上,既然看到这里了,如果觉得不错,随手点个赞、收藏、转发三连吧,如果想第一时间收到最新黑科技,敬请关注行运设计师。

谢谢你看我的文章,我们,下次再见。