AMD宣布,已经与Unsloth达成合作,为100+款智能体AI应用应用带来NPU支持,可以使用受支持的AMD Ryzen AI PC调用本地NPU进行推理。AMD XDNA 2 NPU由此成为Unsloth Desktop首个支持的神经处理单元,其API可将兼容的应用程序与在NPU上运行的支持模型连接起来。

Unsloth Desktop的API提供了兼容OpenAI的端点,已纳入的工具包括Hermes Agent、OpenClaw、Open WebUI、Cline、LangChain与GitHub Copilot等。兼容应用向该API发送模型请求,由Lemonade与FastFlowLM负责模型服务与在XDNA 2 NPU上的推理,结果返回应用供其工作流使用。NPU只加速受支持的模型推理,其余功能会照常调用PC的CPU与GPU。

Unsloth本身覆盖模型开发与部署,开源工具用于加速微调并降低GPU显存占用,桌面应用则支持免写代码完成训练和推理。AMD NPU支持把这条链路从CPU、GPU执行扩展到NPU执行,给用户多了一个低功耗的推理选项。AMD表示,这套集成延续了其扩展和优化软件支持的工作,目的是让更多常用工具用上专用NPU加速。

对于需要全天候运行的AI助手和智能体,推理效率直接影响日常PC任务的并行体验。AMD把这套方案定位为GPU执行的替代路径,将更多的CPU和GPU资源留给编排和其他应用,让用户减少在逐步管理任务上的时间,留出更多时间用于查看结果。