联想近期预告，将于10月24日发布一款基于国产芯片的AI算力设备，用于在本地运行智能体。
这款名为“AI主机P7”的边缘侧算力设备，体积比充电宝略大，可连接电脑使用，最高支持运行1220亿参数的本地大模型。联想集团副总裁、中国区消费终端事业部总经理李伟昌表示，AI主机主要面向编程和办公场景，可以将其理解为专属于个人的“Token（词元）工厂”。
左侧盒状产品为联想即将发布的AI主机P7。
过去数年，智能终端厂商尝试将大模型部署在本地，衍生出AI手机、AI PC等新概念。但随着AI从回答问题走向自主执行任务，在终端上本地运行智能体变得捉襟见肘。
市场调研机构IDC在9月一份报告中提到，手机、电脑等以人机交互为核心的终端设备，尽管能够提供安全可信的本地环境，但无法满足智能体全天候不间断运转；而且，智能体所需的大参数量大模型算力资源也难以得到优先保障、无法输出稳定高品质的推理结果。
IDC还表示，云端环境下运行智能体，虽能保障所需的算力性能，但会造成用户的安全焦虑，以及Token消耗的成本焦虑。在此背景下，市场需要一种为智能体而生的专属算力设备，AI主机应运而生。
李伟昌介绍，在本地的数据处理模式下，联想的AI主机能够让数据、文件、模型、任务执行形成设备内的闭环，减少对外部数据传输的依赖。调用本地模型，用户也减少了云端推理带来的Token费用。
为联想AI主机提供AI算力的，是国产芯片公司后摩智能当下主推的旗舰芯片M50。参数显示，这款用于大模型推理的端侧和边缘侧芯片，在INT8（8位整数运算）精度下的算力为160 TOPS，典型功耗为10W（瓦），官方形容其功耗仅“相当于手机快充的功率”。
本地部署的芯片，需要兼顾计算性能、成本和功耗的平衡。后摩智能创始人、CEO吴强在10月14日的公司生态合作伙伴大会上说，随着越来越多的智能终端需要本地大模型推理，客户关注的核心指标主要有三项：模型能不能跑、跑得是不是够快，以及成本和功耗能否扛得住。
除了联想AI主机P7，后摩智能M50芯片还应用于联想开天M90z信创台式机、联想X7h信创笔记本电脑等多款联想的AI PC产品。
后摩智能是联想创投投资的企业，但公司方面否认进入联想供应链时会因投资关系而获得特殊待遇。后摩智能联合创始人、战略副总裁项之初向南都记者表示，公司芯片被联想AI主机等产品使用，是同国内外芯片企业在相同标准下竞争而来的结果。他说，公司也不会向联想寻求额外的优待，“优待的一个缺点是，如果客户不虐你，团队很难被磨炼、锻打”。
据后摩智能介绍，截至今年8月底，M50芯片已获得超过150款产品定点，应用场景涵盖Agent Computer（智能体电脑）、智能移动终端、具身机器人和边缘推理。吴强告诉记者，目前客户以商业客户为主，公司也在持续推进信创领域的客户拓展。从落地进展看，Agent Computer和边缘推理场景的需求释放较快，PC等智能终端及机器人领域的应用正逐步推进。吴强认为，后两个领域未来仍有较大的增长空间。
采写：南都N视频记者 杨柳 杨文君
热门跟贴