作者:伯衡君

打开网易新闻 查看精彩图片

8GB显卡能逆向工程代码吗?这台AI自己查了一小时

概述

一块 RTX 3070,8GB 显存;一个 270 亿参数的模型,被压缩到每个权重不到两个比特;一段剥光了符号的 3D 打印机固件。

没有源码,没有文档,不联网,不上云。

这台本地 AI 接到的任务,是靠自己从二进制里搞懂怎么和这段固件通信。更狠的是,编译前故意改了两个协议值——所以哪怕你背熟了 Klipper 的公开资料,也套不到任何现成答案。

唯一的路,就是盯着那段二进制硬啃。

我盯着屏幕看它跑了 92 分钟,最后得了个 2.5/5 分。这篇把这个实验完整拆开。

真的很离谱。

前情提要

有关REA的反编译案例,伯衡君此前介绍过,感兴趣的读者朋友可以参阅这两篇文章《再聊REA?扔个EXE给AI,几分钟手搓出开源替代品》和《太离谱了!8天狂揽5.7万星:这个AI黑科技无源码也能偷师App》。

给本地AI的一个挑战

先看任务。给你一块 8GB 显卡上的本地 AI,你会让它干什么?我今天就把它交给一段 3D 打印机固件,让它自己搞清楚怎么和这东西通信。跑的是 Ternary Bonsai 2,一个 270 亿参数的模型,装在一张 RTX 3070 上,旁边配着 REA 和 Ghidra——给它工具去检查编译后的代码。

关键来了:这是 Klipper 固件没错,但编译之前偷偷改了两个协议值,还剥掉了所有符号、把源码藏得远远的,一点不给 agent 看。

它要做的,是把原始消息翻译成能读懂的指令。

没有源码、没有文档、没有网,全靠一块显卡。

这不是背题库,这是现场解题。就像把一个考生关进教室,只给一套陌生试卷,还不让翻书。

能不能交卷,全看它自己。

你让一台本地 AI 干这种事,等于让一个从没出过远门的人去破案。

它连"这案子是啥"都得先自己查出来。

REA到底是什么

先把 REA 说清楚。

打开网易新闻 查看精彩图片

它全称 Reverse Engineer Anything,逆向工程一切。

逆向工程说白了,就是把东西拆开,看它到底怎么工作的——就像打开一块钟表,找找是什么在拨动指针。

没人给你发过说明书,你得靠零件自己推。

REA 对软件干的就是这件事:你把一个程序指向它,哪怕没有源码、没有文档,它也能搞明白程序内部在发生什么。普通 AI 模型做不到——它们只能背训练时见过的东西,没法真的去"看"一个陌生程序。

说穿了,一个靠记忆,一个靠动手。记忆会过时,动手不会。这俩压根不是一回事。你能记住一万道题,但你第一次见一道新题,还是得现场推。

你能背一百个案例,可面对第一百零一个,你还是得从头分析。

这,就是 REA 存在的意义。

它让 AI 从"背过的"升级成"能查的"。

这玩意儿有什么用

那实际能拿它干嘛?

打开网易新闻 查看精彩图片

举几个例子。你玩游戏,存档写进一个文件,打开一看全是乱码数字。里面藏着你的血量、金币、在第几关,但没告诉你哪个数字对应哪个。

写这个文件的程序知道布局,REA 读一遍程序,就告诉你答案。

再比如你的扫地机器人,只能通过厂商 App 操作,你更想把它接到自家服务器上——REA 能从固件里挖出通信协议。

你家里的智能音箱、智能门锁、智能灯泡,每个都有自己的一套协议,厂商不公开,你就只能干瞪眼。

REA 能帮你把这些都读明白。这思路说白了就是:你手里的东西,不该只有厂商一个人懂。你买的,你就有权知道它怎么运作。你花钱买的机器,凭什么只有厂商能修、能连、能折腾?这不合理。你想自己修个东西,厂商却把图纸锁起来,这像话吗?

谁的钱,谁做主。

能指向哪些目标

能指向的东西,比我想象的多。

文档里有张表,很长。

打开网易新闻 查看精彩图片

简化几个看看:Windows EXE 或 Mac 应用——得到可读的伪代码、汇编、内部文本字符串、调用关系图,不过得配一个 Ghidra 反汇编器,免费。

Android 应用——拿到 manifest、文本、自带语言。甚至还有浏览器会话、游戏存档、物联网设备固件、Linux 二进制……基本你能想到的软件形态,它都接得住。

列表长到我看完都愣了一下。你手上那些看不懂的二进制,它基本都能扒。你能想到的,它基本都接。

从手机 App 到扫地机器人,从存档到固件,一网打尽。这哪是工具,这是万能钥匙。你还在愁怎么打开一个文件,它已经帮你把整个程序摊开看了。覆盖面广到让人怀疑,这工具是不是什么都能拆。

你手头最头疼的那个文件,它接得住吗?

REA的四步循环

REA 怎么干活的?

打开网易新闻 查看精彩图片

四步,循环着来。

第一步问——你的 agent 指向自己机器上某个东西,App、程序文件、浏览器会话。

第二步 REA 检查和追踪,这是最关键的——它不是背训练时读到的内容,而是真的对面前这个文件跑真实的分析工具。

第三步你读证据——REA 交回它发现了什么,附上支撑的代码、这段代码还在哪里被用到。

第四步循环,你可以继续问。

这套循环,就是它越查越深的引擎。

问、查、读、循环——四个动作反复转,越转越深。每一次循环,它都比上一次更接近真相。它不靠猜,靠一步步查出来的证据堆。

这就像盖房子,一层一层往上垒,每一层都有实打实的地基。地基不稳,上面盖再多也是空的。

你问它一句,它就往前多查一步。

负责任地玩

打开网易新闻 查看精彩图片

开始之前有一句话:只对自己拥有的软件,或者获得许可打开的软件动手。

打开网易新闻 查看精彩图片

手里有文件,不等于有权限。许可证可能禁止,你当地的法律也可能禁止。这就是为什么所有实验都跑在自己从开源代码构建、放在自己机器上的固件里。逆向工程的边界,从来不是技术,是规矩。

你拿自己的东西研究,那叫本事;拿别人的东西乱搞,那叫惹祸。

你手里的工具再厉害,也抵不过一句"你没资格动"。这不是技术问题,是法律问题。你研究自己的硬盘、自己的存档、自己买的机器,没人管得着。可你要去拆别人家东西,那就是另一回事了。你手里的工具越强,越得掂量清楚该用在哪。这条线划得很清楚,你只要别越过去就行。

你研究的是自己的东西,就没人拦得住你。可你要动别人的,那性质就变了。

这次实验的配置

打开网易新闻 查看精彩图片

看看这次的具体配置。显卡是 NVIDIA RTX 3070,8GB 显存。

打开网易新闻 查看精彩图片

模型是 Ternary Bonsai 2,270 亿参数,PTQ 1_0 量化格式,磁盘上占约 5.5GB。模型还要给上下文缓存腾空间——64K 上下文窗口加 4bit KV 缓存,GPU 内存用到大约 7100MB。系统内存 24GB。

打开网易新闻 查看精彩图片

模型权重和上下文缓存都塞进 GPU 了,所以没往系统内存溢出。8GB 能装下 270 亿参数,这本身一年前想都不敢想。

你想想,把这么大一个模型塞进一张显卡,还得剩地方跑工具。挤是真挤,但它就是跑起来了。这就像把一头大象塞进一辆轿车,居然还开动了。

你说这显卡是多能扛?显存、上下文缓存、KV 缓存全挤在 8GB 里,还留了给工具的余量。

它没爆,已经很给面子了。

固件实验的目标

打开网易新闻 查看精彩图片

目标固件从 Klipper 构建——一个开源 3D 打印机项目。

固件就是控制器上跑的程序,那台小电脑负责执行命令、协调硬件。

这次把它编译到 STM32 微控制器上,然后剥掉了符号——符号是那些有用的名字,没了它们,编译后的代码就很难看懂。但 Klipper 是公开的,模型可能早就知道它的协议。所以提前改了那两个值。你要背 Klipper 资料?没用,答案是改过的。这道题,背题解不出来。

它把答案换了个位置,你背得再熟也没辙。这招就叫"防背题"。

你以为是送分题,其实是道陷阱题。它专门防那种"我背过这个协议"的自信。

你越熟,越容易掉沟里。

所以别指望靠背题蒙过去,答案早被换过了。

用MCP把工具接进来

打开网易新闻 查看精彩图片

模型能生成文字,但要看懂二进制,得给它工具。这就是 MCP,模型上下文协议。它给 agent 一套标准方式:发现可用工具、调用、接收结果。

这套配置里,Bonsai 跑在 llama.cpp 上,Hermes 管理对话并执行工具请求,REA 通过 MCP 暴露分析工具,Ghidra 做底层二进制分析。模型可以请求 REA 打开固件、列函数、或者反汇编某一段。工具链是接上了。

没有这套协议,模型就是个只会说话的哑巴。

有了它,模型才长出了手。能说话,还能动手,这才叫完整的 agent。

你给它一双眼睛,它就真能看见东西了。它想看什么,就能看什么。你说,这算不算给它开了天眼?

正式开查

真正开始调查。

检查连接,给 agent 三个文件:编译好的固件、发往控制器的消息捕获、控制器返回的消息捕获。没有源码文件夹可翻,只能从二进制加流量硬推。

打开网易新闻 查看精彩图片

会话显示 REA 打开 ELF,识别为 ARM 架构。然后 agent 要概览、列过程列表,开始往里钻。

三个文件,一条线索,全凭它自己找。就像侦探进案发现场,只有物证,没有口供。它得靠现场,还原整个案情。你给它的,就这三样东西,剩下全靠它自己。它得先弄明白"这是啥",再想"这怎么玩"。每一步都得靠自己趟。

坦率说,它一直在绕圈。

整个运行 92 分 52 秒,最后没有一个能用的解码器。

设了个五部分评分:目标识别过了,框架和改动后的校验和值过了,整数编码部分过,但字典恢复和完整解码器没过——2.5/5。

打开网易新闻 查看精彩图片

打开答案键看看漏了啥:命令字典其实在固件里,但被压缩了。

调查一直在找,就是没找对地方。它找对了门,但没找对钥匙。钥匙在抽屉里,它却一直在翻书架。

方向对了,深度不够。差的那一步,就是整个实验的命门。五样里过了三样,但最关键的两样没拿下。

这就像解题解到最后一问,卡在最后一步。你卡在最后一步,那前面都对也没用。它到底差在哪?就差在最后那一下。

它查了一个半小时,还是没摸到那层窗户纸。方向、框架、整数都对,就是最后一步没踩实。

8GB到底够不够

对我来说最有意思的,是 8GB 居然够跑这个模型,还维持了一个工具驱动的调查跑一个半小时。

GPU 内存加载 64K 配置后 7119MB,结束时 7159MB——整个运行只漂了 40MB。

打开网易新闻 查看精彩图片

生成速度在采集的片段里约 42 到 33 token/秒,随上下文填满往下掉。

短提示更快,但我不该拿那个最佳值代表整个会话。

40MB 的漂移,稳定得离谱。

8GB 干成这事儿,确实值了。挤是挤了点,但它撑住了。一个半小时不崩,这本身就是个信号。

你说,这算不算小马拉大车?而且它不只是跑模型,还在同时跑分析工具。这负载,比单纯生成文本重多了。

它扛住了。你说这 8GB 是不是被榨干了?一个半小时稳定跑下来,这 8GB 算是物尽其用了。

卡在哪了

拦住这次运行的,不是知识。

模型读了 ARM 汇编,从剥了符号的二进制里拔出了两个它不可能猜到的值。

它缺的是策略——知道什么时候该停止搜索,回头重新想想问题长什么样。

这个差距正从两个方向收窄:模型越来越小但能力一样,270 亿参数塞进 6GB 以下,一年前根本不可能;工具迭代也快,REA 还在进化。

缺的那块,正在被补上。

会背,不如会想。

会查,不如会停。

会钻,不如会退一步。

下一步缺的不是更猛的模型,是更聪明的打法。

模型已经在变聪明,工具也已经在变强。

缺的那块,迟早会被补上。

它卡住的不是"不会",是"没换个角度"。它到底缺啥?缺的是一步退后。就差那么一下,它就通了。

它缺的不是蛮力,是那一回头。

就差那一步,它就全通了。

篇后寄语

这次实验最打动我的,不是 AI 做到了什么,而是它卡在哪。

模型有知识,读得懂 ARM 汇编,能从一个没有名字的二进制里挖出两个不可能猜到的值——但它缺策略,不知道什么时候该停下来,换个角度重新看问题。

这恰恰说明:AI 的能力边界不在"知道多少",而在"会不会换个思路"。

而这个缺口,正在从模型压缩和工具迭代两个方向同时收窄。你手上的显卡,也许比你想象的更有用。

概念释义

  • REA(Reverse Engineer Anything):一个逆向工程工具/框架,让 AI 能对真实文件跑真实分析,即使无源码无文档。
  • MCP(Model Context Protocol):模型上下文协议,给 AI agent 一套标准方式发现和调用外部工具。
  • Ghidra:NSA 开源的逆向工程工具,可反汇编、反编译二进制程序。
  • Ternary Bonsai 2:一个 270 亿参数的量化 AI 模型,可在 8GB 显存本地运行。

以上,既然看到这里了,如果觉得不错,随手点个赞、收藏、转发三连吧,如果想第一时间收到最新黑科技,敬请关注行运设计师。

谢谢你看我的文章,我们,下次再见。

参考资料

  • REA(Reverse Engineer Anything)项目主页
  • MCP(Model Context Protocol)规范
  • Ghidra 逆向工程工具
  • Klipper 3D 打印机固件开源项目