11月19日,前DeepSeek-VL项目负责人张博在X宣布开源个人Agent Linger,开发主体是张博创办的SIMPLEX AI TECHNOLOGIES PTE. LTD.(以下简称“Simplex AI”),代码已上传GitHub。

打开网易新闻 查看精彩图片

按项目文档,Linger读取本地邮件、日历和文件,操作用户已登录的浏览器;连接外部应用的读取直接执行,发邮件等写入操作才弹出确认卡,用户可随时接管。

权限边界也写进了官方文档。Agent以用户授权的运行环境执行任务,可访问该电脑的文件、已登录应用和命令行。Linger用确认卡和服务端校验限制Agent动作,没有采用沙箱隔离。

按Simplex AI公布的实验室测试数据,在12GB显存加64GB内存的配置下,阿里千问Qwen3.8-Flash-Next的生成速度为45.5 tokens/秒,该速度为模型开始生成后的稳态速度,不含首token等待。零token费是Simplex AI主打的卖点,README与官网均写明本地推理不产生云端账单和token费用。

这组性能数字存在不同测试口径,实际使用效果仍待验证。

让125B模型装进12GB显卡的是PolyStrata,一个MoE推理引擎。文档将其原理描述为分层管理专家权重,部分专家放在显存,其余放在系统内存或SSD,用到时再调度。Qwen3.8-Flash-Next的2-bit量化文件约39GB,这些权重靠分层调度运行,不会一次性载入显存。

官网显示,PolyStrata已适配12个开源模型,包括Qwen、DeepSeek、Gemma、Qwen3.8-Flash-Next、Qwen3.8-27B和Spark-X2.6-4B,另有更多模型在列。发布会用于演示的千问模型只是其中之一,DeepSeek同样在支持列表内。对本地推理用户来说,模型选择不绑定单一厂商,可按硬件条件切换,也不必为某一家模型的云端调用单独订阅。

打开网易新闻 查看精彩图片

成本账的重要前提是硬件。45.5 tokens/秒对应的是12GB显卡加64GB内存。

官方另一组硬件规划测试显示,12GB显卡配32GB内存的模拟配置下,同一模型速度为21.3 tokens/秒,首字延迟约3分钟。这组数据来自96GB显卡限制显存预算的模拟,并非真实12GB显卡实测,该档默认推荐模型其实是Qwen3.6-35B-A3B。两项数据分属不同测试,不能直接对照。

8GB显卡档标注的38.1 tokens/秒,脚注同样注明是在96GB显卡上限制到8GB预算测得,不是真实8GB显卡。

官方文档写明,工作数据存放在用户自己运行的服务器与电脑上,但有几类数据会离机。使用远程模型时,模型调用把提示词和上下文发给模型服务商。连接Gmail、Slack等应用、语音识别和实时语音分别调用Composio、Soniox和xAI。后台记忆和Wiki生成用的是Claude Code或Codex等运行时。

Linger的省账限于本地模型推理无需支付token费。硬件、电力和上述外部服务的成本另计。

商业模式上,Linger把本地部署开放给个人使用,同时保留云端托管权。当前不少个人AI助手及Agent产品采用云端模型或托管服务模式,用户通过订阅、用量付费或自备API额度使用;云端模型通常要把任务所需的上下文发给模型服务商。

Linger开源版本可免费在本地使用,另设hosted版本,目前只开放等候名单,未公布定价。截至11月20日,该项目GitHub仓库星标约1.8k。

项目许可证以Apache 2.0为基础增加了商业限制。未经授权,其他企业不得把Linger源码作为托管服务提供给外部用户,也不得删改前端的Logo与版权信息。这一条款把本地使用放开、把第三方托管收紧,商业化空间留给Simplex AI自己的hosted服务。

张博在开源帖中称,如今AI在数据中心训练,再以token的形式租回给用户,智能应该由用户完全拥有。与DeepSeek此前展示的DS-Bot相比,他回应称,DS-Bot的核心是Bot与Bot、Bot与群组的协作,Linger的核心是人与自己的Agent、Agent与本地环境。

张博2019年在香港科技大学取得博士学位,随后进入微软亚洲研究院研究计算机视觉,2023年加入DeepSeek,任DeepSeek-VL项目负责人,离开后在浙江大学任教并创办Simplex AI。

这款产品仍处在开源早期,支撑性能说法的几组数字为企业自测口径,暂无第三方复现。后续值得关注的是,Linger到2026年底的GitHub星标量级,以及有无第三方复现12GB跑125B达45.5 tokens/秒的效果。