Thomas Wolf 发了一条推文,内容只有一句话:nanoGPT,但它在一条推文里训练。配图是一个网页界面,上面写着"从零训练一个微型 transformer"。
点开链接,页面提示很直接:在你的浏览器里从零训练一个微型 transformer,真实的损失值,实时的文本输出,点击开始。没有安装,没有配置,没有 GPU 集群。
打开网易新闻 查看精彩图片
训练按钮就在推文里
这个演示的入口挂在 Hugging Face 的静态空间上,域名里带着 thomwolf 的前缀。页面上的操作只有一步:点击,然后按下训练。
Wolf 自己给这条推文加了一句注解——"GPU-poor 的终极形态"。这句话指向的是一类开发者:手里没有算力,但想亲手跑一遍训练流程,看看损失曲线怎么往下掉,看看模型吐出来的字怎么从乱码变成词。
演示跑的是 nanoGPT 的缩小版。nanoGPT 本身是 Karpathy 写的极简 GPT 训练实现,而这次的版本被压缩到能在浏览器里直接跑完。
2,923 次围观背后
这条推文发布于 10 月 14 日下午 2:46,到抓取时显示 2,923 次浏览。数字不算大,但评论区那句"wat"式的惊讶,说明它戳中了一个具体的痒点。
浏览器里训练模型不是新概念,但把入口做成一条推文里的一个按钮,把"从零训练"这件事的门槛压到只剩一次点击,是另一回事。对想理解 transformer 内部到底在发生什么的人来说,能亲眼看到损失值跳动,比读十篇讲解更直接。
Wolf 是 Hugging Face 的联合创始人之一,长期在做把模型能力交到普通开发者手里的事。这次的演示延续了同一个方向:不追求模型多大,追求的是让训练这件事变得可触摸。
热门跟贴