Nous Research 把阿里巴巴的 Qwen3.8-27B 拿去做了一次后训练微调,方向很明确:强化西方价值观。结果是一个叫 Arete-27B 的模型,政治宣传率从 22% 掉到了 1%。
为了衡量这件事,他们先搭了一套评估基准,包含 803 个提示词,覆盖言论自由、民主等七大类。微调投入了 5300 万 token,之后模型在这套基准上的政治宣传率断崖式下降,按 Nous Research 的说法,已经达到主流西方开源模型的水平。
更值得看的是代价有多小。在 Hermes Bench 测试中,这次微调只是极小程度影响了推理与代码生成能力,Qwen3.8-27B 原本的基础性能基本被保住了。换句话说,改的是价值观倾向,不是把模型改傻。
Nous Research 自己总结了一句话:“the values in an open model are one fine-tune away”——一个开源模型的价值取向,距离一次微调而已。这句话也是整件事的核心结论:开源模型的价值观可以通过单次微调实现本地化,全球开发者手里多了一个可复制的去偏见范例。
把这条路径拆开看,逻辑并不复杂:先定义要测什么,用 803 个提示词把“政治宣传”变成可量化的比率;再用 5300 万 token 的微调去压这个比率;最后用 Hermes Bench 确认基础能力没有跟着一起被削掉。三步里,评估基准是前提,能力保持是底线。
对做模型后训练的人来说,这个案例的价值不在 1% 这个数字本身,而在于它演示了一套流程:偏见可以被测量,也可以被一次微调改写,同时不必牺牲推理和代码能力。
热门跟贴