国家知识产权局信息显示,阿里云计算有限公司申请一项名为“大语言模型的推理方法、装置及电子设备”的专利,公开号CN122222050A,申请日期为2026年5月。

专利摘要显示,本申请公开了一种大语言模型推理方法、装置及电子设备。涉及人工智能领域,该方法包括:通过大语言模型接收输入的提示词,对提示词进行分词处理,得到提示词对应的词元序列;依据词元序列生成查询向量序列、键向量序列以及值向量序列,并依据键向量序列和值向量序列生成初始键值缓存序列;从查询向量序列中确定锚点查询向量,从键向量序列中确定多个锚点键向量,依据锚点查询向量和多个锚点键向量,从初始键值缓存序列中确定目标键值缓存序列;依据目标键值缓存序列生成提示词对应的推理结果。解决了相关技术中在大语言模型的推理过程中,基于静态固定窗口选择键值缓存,存在选择的键值缓存准确率较低从而导致模型的推理准确率较低的技术问题。

天眼查资料显示,阿里云计算有限公司,成立于2008年,位于杭州市,是一家以从事软件和信息技术服务业为主的企业。企业注册资本101010.10101万人民币。通过天眼查大数据分析,阿里云计算有限公司共对外投资了5家企业,参与招投标项目7154次,财产线索方面有商标信息15条,专利信息2875条,此外企业还拥有行政许可41个。

声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。

本文源自:市场资讯

作者:情报员