国家知识产权局信息显示,中移(苏州)软件技术有限公司;中国移动通信集团有限公司申请一项名为“端侧大模型推理加速方法、装置、设备、存储介质及产品”的专利,公开号CN121684052A,申请日期为2025年12月。
专利摘要显示,本发明公开了一种端侧大模型推理加速方法、装置、设备、存储介质及产品,该方法包括:接收到用户输入的提示词信息,启动并行执行的推理线程和协同线程;通过所述协同线程将所述提示词信息发送到边缘云端的第一大模型进行推理,得到推理指导信息;通过所述推理线程将所述推理指导信息加塞到终端设备的第二大模型的编码阶段对所述提示词信息进行推理,得到所述提示词信息的回复信息;本发明通过在终端设备的第二大模型的编码阶段加塞边缘云端的第二大模型的推理指导信息,指导第二大模型的推理,可以在不影响端侧大模型的推理响应速度的同时,提升端侧大模型的推理性能。
天眼查资料显示,中移(苏州)软件技术有限公司,成立于2014年,位于苏州市,是一家以从事软件和信息技术服务业为主的企业。企业注册资本317200万人民币。通过天眼查大数据分析,中移(苏州)软件技术有限公司参与招投标项目5317次,财产线索方面有商标信息112条,专利信息2813条,此外企业还拥有行政许可28个。
中国移动通信集团有限公司,成立于1999年,位于北京市,是一家以从事电信、广播电视和卫星传输服务为主的企业。企业注册资本30000000万人民币。通过天眼查大数据分析,中国移动通信集团有限公司共对外投资了55家企业,参与招投标项目33643次,财产线索方面有商标信息2199条,专利信息5000条,此外企业还拥有行政许可51个。
声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。
本文源自:市场资讯
作者:情报员
热门跟贴