联想把一台AI主机做到了300g。这个重量比一瓶矿泉水还轻,却要塞进190TOPS的本地AI算力。

打开网易新闻 查看精彩图片

10月18日消息,联想本周早些时候宣布,将于1024“程序员日”14:30在湖南长沙的长沙智谷举行联想AI主机P7超能创享会,同日开启这款新品的预约。

这台机器的方案在今年5月的发布会上已经亮过相:基于此芯科技P1 SoC加后摩智能M50 dNPU,本地AI算力190TOPS,支持122B大模型本地部署,上下文窗口可达128K,本地推理能力50TPS。

正方会说,这是把大模型从云端拽回桌面的关键一步——122B参数、128K上下文,不用联网也能跑。反方则会盯着50TPS这个数字:推理速度够不够撑起日常交互,还得看实际负载。

机身质量仅300g,整机最大功耗30W,运行噪音<35dB(A)。功耗和噪音这两项,决定了它能不能安静地待在工位上。

预约在程序员日当天开启,长沙智谷的这场创享会,大概率会把“本地跑大模型”这件事再讲一遍。