AMD当地时间11月19日宣布,在与微调工具厂商Unsloth达成合作后,其锐龙AI处理器搭载的“XDNA 2”NPU成为首款获得Unsloth Desktop本地界面支持的神经网络处理器。

按AMD披露的流程,兼容应用程序将模型请求发送至Unsloth Desktop API,Lemonade与FastFlowLM两个推理框架负责在XDNA 2 NPU上完成模型服务和推理,模型响应随后返回应用程序,供其工作流使用。

Unsloth Desktop同时提供兼容OpenAI规范的API端点,应用可将请求直接指向本地NPU,无需等待每款软件单独完成适配。

在这一机制下,包括OpenClaw、Hermes在内的超过100款智能体,均可通过Unsloth Desktop在锐龙AI处理器的NPU上本地运行。

这意味着相关AI工作负载可从CPU和GPU上卸载,为其他任务留出更多算力,也有助于延长带电池设备的续航。

AMD将能效列为此次合作强调的重点之一,XDNA 2 NPU本身即面向低功耗AI推理设计。

市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。

本文源自:市场资讯

作者:行舟