云端AI掉链子的事你肯定遇到过:地铁里没信号,语音助手直接装死;想识别个图片还得等转圈。当全行业都在往云上堆算力,阶跃星辰偏给终端设备塞了个模型全家桶——Step Edge系列,专门让手机、汽车在本地搞定AI任务。
这组模型一共四款:基础语言模型、语音模型、交互界面模型,再加一个生成模型。相当于把一套多模态能力直接打包进设备,不联网也能用。关键是,它跑起来到底有多快?官方给出的数据是:端侧工具调用延迟低到0.1秒。高频简单任务在本地立等可取,不用再跟云端扯皮。
打开网易新闻 查看精彩图片
隐私问题也被拎上台面。文本、语音、视觉这些数据全程在本地处理,不出设备。手机上的私人对话、车内的语音指令,再也不用上传到哪家服务器过一遍。对于越来越敏感的数据归属问题,这个设计掐得挺准。
它没走“本地或云端”二选一的极端,而是搞了个端云协同:弱网、无网或简单任务,端侧秒回;复杂推理和长链路任务,自动甩给云端。相当于把速度和成本做了个动态平衡,既不傻快,也不笨贵。
还有个配套的NPU推理引擎,专门针对终端芯片做优化。不管你给的是文字、语音还是图像,它都能再压一压端到端延迟。说白了,这套全家桶不是光有模型,还带了一套让模型在设备上跑得稳的拧螺丝工具。
热门跟贴