一个1.7B的模型,跑在你自己的机器上。不是云端,不是按token计费,是下载一次、之后一直跑的那种。

打开网易新闻 查看精彩图片

StewMind 1.7B在尼日利亚做出来,定位很明确:给做智能体的人用。发布方的说法是,现在大多数AI像自动售货机——按token付费,租别人的大脑,API账单一旦飙升,产品就活不下去。他们要做的是反面:一个可以下载、永久运行的小而锐利的智能体大脑。

它列出的能力清单是这样的:

  • 智能体路由:理解意图,挑出正确的技能
  • 工具调用:结构化函数调用,不靠感觉
  • ReAct推理:思考、行动、观察、循环
  • 记忆操作:为需要记忆的智能体系统而建
  • 英语加尼日利亚皮钦语:它听得懂当地人实际怎么说话
  • GGUF就绪:笔记本、迷你主机、甚至手机都能跑
  • 0美元API账单:没有订阅,没有速率限制,没有意外发票

跑起来只要十行代码。加载分词器和模型,套上对话模板,生成,解码输出。没有GPU也不是问题——仓库里直接放着Q4_K_M的GGUF文件,用llama.cpp、LM Studio或Ollama都能跑。发布方形容它吃内存的样子,像派对上的jollof米饭消失得那么快。

为什么1.7B是特性而不是缺陷

做智能体开发的同行有个共同难题:大模型很聪明,但慢、贵,一次工具调用就啃掉一点利润。专门为智能体工作微调过的小模型,在三件事上做得更好。

路由是毫秒级的——不用为了决定调哪个工具先等上900毫秒的往返。它保持专注——训练数据是智能体工作流,不是世间万物。它跑在用户所在的地方——离线、在设备上,私有数据不离开这台机器。

发布方给出的判断是:智能体的未来不是数据中心里一个巨大的大脑,而是成千上万个小大脑,住在你的应用、脚本和硬件里。

为尼日利亚而建,也为世界而建

StewMind出自S.T.E.W项目。这个项目在做尼日利亚的AI基础设施:能听懂伊博语、约鲁巴语、豪萨语和皮钦语的语音模型,在本地思考的智能体模型,以及在网络昂贵且不稳定的地方也能用的工具。

对新兴市场里做智能体的人来说,痛点很具体:延迟毁掉体验,API成本毁掉创业公司。本地优先的AI在这里不是妥协,是策略。

模型和GGUF文件都放在Hugging Face上,可以改、可以微调、可以塞进产品里。发布方还顺带提了另一个项目Stew Yanga——尼日利亚语音转文字,号称真正听得懂尼日利亚口音。