国家知识产权局信息显示,安徽开阳科技有限公司、奇瑞汽车股份有限公司申请一项名为“大模型推理方法、装置及电子设备”的专利,公开号CN122819517A,申请日期为2026年7月。

专利摘要显示,本发明提供了一种大模型推理方法、装置及电子设备,涉及大模型推理计算技术领域,基于注意力计算过程中产生的中间数据预测候选专家网络,并将专家网络参数提前预存至本地高速存储单元,使得参数搬运动作与注意力计算过程至少部分重叠。当注意力计算结束、路由器网络确定目标专家网络后,若目标专家网络与候选专家网络匹配一致,可直接从高速存储单元获取已就绪的推理参数执行前馈计算,无需等待参数搬运。该机制消除了路由器网络决策与专家网络参数搬运之间的串行等待时间,可降低每一网络层的推理等待时间及端到端推理延迟。整个过程未对大模型原有的网络结构和权重参数进行修改,可在提升推理效率的同时保持模型的完整结构和推理精度。

天眼查资料显示,安徽开阳科技有限公司,成立于2024年,位于芜湖市,是一家以从事研究和试验发展为主的企业。企业注册资本10000万人民币。通过天眼查大数据分析,安徽开阳科技有限公司专利信息230条。

奇瑞汽车股份有限公司,成立于1997年,位于芜湖市,是一家以从事汽车制造业为主的企业。企业注册资本580860.4533万人民币。通过天眼查大数据分析,奇瑞汽车股份有限公司共对外投资了68家企业,参与招投标项目3791次,财产线索方面有商标信息2673条,专利信息28585条,此外企业还拥有行政许可720个。

声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。

本文源自:市场资讯

作者:情报员