LM Studio是本地运行大语言模型的热门选择,但它并非唯一选项。我测试了三款开源替代工具,发现它们各有适用场景。

Jan.ai:最接近LM Studio的体验

打开网易新闻 查看精彩图片

如果你想要一个功能对等的直接替代方案,Jan.ai是三者中最合适的选择。它具备完整的桌面应用形态——安装后自动下载默认模型,开箱即可开始对话,交互逻辑与ChatGPT或Claude类似。

首次响应因模型加载稍慢,但后续速度尚可。测试设备为8GB内存的MacBook Air M2。默认模型的通用对话能力合格,但对Jan.ai自身的使用指导知识匮乏,而这恰是我最先想询问的内容。

模型管理方面,Jan.ai设有Hub供浏览下载,与LM Studio机制相近。但测试中出现兼容性问题:针对Apple Silicon优化的MLX模型加载失败,需回退至旧版本才能正常运行。

自定义指令功能通过"助手"实现——创建带特定指令的助手后,在对话中调用即可。若追求简洁的本地聊天机器人部署方案,Jan.ai是稳妥之选。

Ollama:更适合作为家庭服务器基础设施

Ollama的定位与Jan.ai、LM Studio截然不同。启动后虽有聊天界面,但功能极度精简:菜单仅"新建对话"与"启动"两项,下拉框提供少量可下载模型及云端模型。

测试设备的8GB内存无法运行任何列出的本地模型,开箱即用性为零。模型管理功能薄弱,进阶操作需依赖命令行。

Ollama的核心价值不在聊天本身,而在于提供本地模型的运行与管理能力,并开放本地API供其他服务调用。例如,可在Mac上部署Ollama运行本地模型,让其他应用通过API与之交互。