国家知识产权局信息显示,繁星智算科技(北京)有限公司、中国移动通信集团终端有限公司、中国移动通信集团有限公司申请一项名为“大语言模型推理方法、装置、设备及计算机存储介质”的专利,公开号CN121503694A,申请日期为2025年12月。

专利摘要显示,本申请涉及人工智能技术领域,提供了一种大语言模型推理方法、装置、设备及计算机存储介质。该方法包括:获取输入序列、经过训练的前向提示嵌入向量序列和后向补全嵌入向量序列;将输入序列经大语言模型的嵌入层处理得到的输入嵌入向量,与前向提示嵌入向量序列和后向补全嵌入向量序列进行拼接,得到组合输入序列;将组合输入序列输入至大语言模型,并前向传播至至少一个草稿生成层,得到对应于前向提示嵌入向量序列位置的候选草稿输出信息;草稿生成层是基于目标推理任务的数据集,从大语言模型的全部Transformer层中筛选出的满足推理精度条件和推理速度条件的Transformer层;基于候选草稿输出信息的置信度,确定推理结果,推理结果为候选草稿输出信息,或者,将基于候选草稿输出信息采样得到的令牌序列提交至大语言模型的全部层进行验证性推理的结果。

天眼查资料显示,繁星智算科技(北京)有限公司,成立于2021年,位于北京市,是一家以从事科技推广和应用服务业为主的企业。企业注册资本10000万人民币。通过天眼查大数据分析,繁星智算科技(北京)有限公司参与招投标项目138次,专利信息18条,此外企业还拥有行政许可3个。

中国移动通信集团终端有限公司,成立于2004年,位于北京市,是一家以从事计算机、通信和其他电子设备制造业为主的企业。企业注册资本620000万人民币。通过天眼查大数据分析,中国移动通信集团终端有限公司共对外投资了5家企业,参与招投标项目5000次,财产线索方面有商标信息170条,专利信息661条,此外企业还拥有行政许可6个。

中国移动通信集团有限公司,成立于1999年,位于北京市,是一家以从事电信、广播电视和卫星传输服务为主的企业。企业注册资本30000000万人民币。通过天眼查大数据分析,中国移动通信集团有限公司共对外投资了55家企业,参与招投标项目5000次,财产线索方面有商标信息2207条,专利信息5000条,此外企业还拥有行政许可50个。

声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。

本文源自:市场资讯

作者:情报员