面壁智能发布新一代端侧多模态大�...
新浪财经
·河北
·优质财经领域创作者
来源:市场资讯
(来源:每日经济新闻)
每经北京10月13日电,今日,面壁智能正式发布新一代端侧多模态大模型 MiniCPM-V 4.7,包含35B-A3B与1B两个版本。
其中35B-A3B采用MoE架构,总参数350亿、每次推理仅激活30亿,仅约3GB内存即可运行,iPad Pro实测解码速度为15+ token/s。发布当日即支持瑞芯微、NVIDIA、Intel和Apple等国内外主流芯片平台,同时支持iOS、安卓和鸿蒙系统,并提供开源端侧适配代码及主流推理框架。1B版本主打端侧极致效率,让旗舰级能力跑进更多端侧设备。(每经记者 可杨)
热门跟贴