AMD当地时间11月19日宣布,在与微调工具厂商Unsloth达成合作后,其锐龙AI处理器搭载的“XDNA 2”NPU成为首款获得Unsloth Desktop本地界面支持的神经网络处理器。
按AMD披露的流程,兼容应用程序将模型请求发送至Unsloth Desktop API,Lemonade与FastFlowLM两个推理框架负责在XDNA 2 NPU上完成模型服务和推理,模型响应随后返回应用程序,供其工作流使用。
Unsloth Desktop同时提供兼容OpenAI规范的API端点,应用可将请求直接指向本地NPU,无需等待每款软件单独完成适配。
在这一机制下,包括OpenClaw、Hermes在内的超过100款智能体,均可通过Unsloth Desktop在锐龙AI处理器的NPU上本地运行。
这意味着相关AI工作负载可从CPU和GPU上卸载,为其他任务留出更多算力,也有助于延长带电池设备的续航。
AMD将能效列为此次合作强调的重点之一,XDNA 2 NPU本身即面向低功耗AI推理设计。
市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。
本文源自:市场资讯
作者:行舟
热门跟贴