日语AI模型想从零做一遍，光收集语料远远不够。分词器要单独训，预训练、SFT、强化学习、评测各跑各的脚本，拼起来就是一堆工程债。GitHub上的nanochat-jp想干的事很直接：把这些环节全塞进一个仓库。
它是AI研究者Andrej Karpathy在2025年10月公开的nanochat的日语版分支。原项目把预训练、对话能力追加学习和推理收进单一代码库，nanochat-jp在此基础上补齐了日语向的学习与评测环境。
换掉的第一个零件是分词器
日语处理的第一道坎是切词。nanochat-jp改用SentencePiece Unigram分词器，专门针对日语文本做分词器训练。围绕它，项目还配了一整套日语数据：预训练用日语语料、SFT（监督微调）用的问答样本、以及用于改进回答的RL（强化学习）数据，全部在Hugging Face上公开。
换句话说，想研究日语小模型的人不用再从零攒数据，语料和训练样本是现成的。
一条脚本跑完训练流水线
训练入口是附带的speedrun.sh，执行顺序为：分词器训练与评测、预训练、SFT、生成学习报告。强化学习环节也写好了，但在标准脚本里被当作可选的额外步骤，不强制跑。
评测分两条线：预训练模型用base_eval.sh，对话模型用chat_eval.sh。日语能力则用CORE和ChatCORE两个基准来衡量。
成绩单：v4对v3，5项里4项涨了
开发方公布的日语能力基准结果里，标准设定下训练的模型日语性能与Qwen3.5-0.8B处于同一水平。nanochat-jp-v4相比v3，在5项指标中有4项分数提升。
- 测日语生成能力的YOMI-Gen：从41.4提升到52.3
- YOMI-Gen与PFGen两项上，成绩超过Qwen3.5-2B
- 对比的Qwen3.5系列是在关闭thinking的条件下评测的
这里有个细节值得留意：被超过的是2B参数的模型，而自家标准配置的对手是0.8B级别。参数规模差着一截，分数却咬得很紧，小模型的性价比空间就出来了。
不想训练也能直接用
标准训练流程需要高性能GPU环境，这是硬门槛。但项目同时放出了训练好的nanochat-jp-v4和nanochat-jp-v3检查点，以及转成Hugging Face Transformers格式的SFT模型，分词器也一并公开。
配套工具里还有一个nanochat-jp-vllm-plugin，用来把训练好的模型挂到推理服务器上跑。从训练到部署，链条上缺的那几块都补了。
对想搞清楚日语AI内部机制、或者拿自己的模型来跑一遍基准的人来说，这套东西的价值不在于刷榜，而在于把整条流水线摊开给你看——每一步都能单独拆出来改。
热门跟贴