凌晨1点39分,一条推文发了出来。发帖人说,他最近用 KerasHub + JAX + TPU 做了一大堆 LLM 后训练实验,玩得很开心,可能会把其中一部分开源。

这条推文没有配长文,没有贴代码仓库,也没有给出任何实验数据。它只是把三样东西摆在一起:KerasHub、JAX、TPU。

三件套意味着什么

KerasHub 负责模型和组件的调用,JAX 负责计算,TPU 负责算力。后训练是相对预训练而言的环节,通常指在已有模型基础上继续做调整。

把这三者组合起来做实验,指向的是一套不依赖常规 GPU 路线的后训练工作流。发帖人没有说明具体跑了哪些实验、用了多大模型、效果如何。

开源只是"可能"

值得注意的是,发帖人用的词是"might open-source some of that"——可能会开源其中一部分。不是承诺,不是计划,只是一个还没落地的念头。

这条推文目前有 12.2K 次浏览。没有后续回复被披露,也没有更多细节流出。

对于关注后训练工具链的人来说,这条信息的价值在于组合本身:KerasHub、JAX、TPU 这三样东西被放在同一个实验场景里。至于实验结果能不能看到,取决于那句"可能"会不会变成现实。