微软给GitHub Copilot换了一颗"本地心脏"。常规编码任务不再默认走Anthropic的Claude Haiku 4.5,而是交给自家端侧模型MAI-Code-1.1-Flash。
这个模型的总参数是137B,但每次推理只激活6.8B。真正干活的部分很小,大部分参数处于待命状态。
打开网易新闻 查看精彩图片
路由器决定谁来干活
切换不是一刀切。Copilot通过一个模型路由器做分流:常规工作留在本地处理,复杂任务仍可能交给云端模型。用户感知到的只是响应路径变了。
更实际的变化在成本侧——本地调用不收推理费用。对高频使用Copilot的开发者来说,日常补全、简单改写这类操作不再产生云端推理账单。
端侧路线的算盘
把常规编码留在本地,省下的是推理成本,换来的是对模型栈的自主权。137B总参数、6.8B激活的配置,本质是在本地算力约束下找一个能跑得动、又够用的平衡点。
Claude Haiku 4.5仍在这套体系里,只是不再承包所有常规请求。谁处理哪类任务,由路由器说了算。
热门跟贴