国家知识产权局信息显示,山东浪潮科学研究院有限公司申请一项名为“一种基于大语言模型的推测解码方法、装置、设备及介质”的专利,公开号CN121388848A,申请日期为2025年10月。

专利摘要显示,本申请公开了一种基于大语言模型的推测解码方法、装置、设备及介质,涉及大模型技术领域,包括:确定若干个词元位置的输出概率分布,基于输出概率分布确定置信度分数;根据目标状态信号确定目标控制参数,对置信度向量进行聚合计算,以得到聚合置信度,通过聚合置信度及目标控制参数确定目标草稿长度;基于目标控制参数及置信度分数确定验证容忍度阈值,利用目标深度学习模型基于目标草稿长度生成草稿序列,基于预设大语言模型及验证容忍度阈值对草稿序列中的各词元进行验证;将验证成功的目标词元增加至当前已生成序列的末尾,得到目标序列,将目标序列确定为当前已生成序列,并重新跳转,以进行下一轮推测解码。本申请能够提高推测解码的效率。

天眼查资料显示,山东浪潮科学研究院有限公司,成立于2021年,位于济南市,是一家以从事研究和试验发展为主的企业。企业注册资本30000万人民币。通过天眼查大数据分析,山东浪潮科学研究院有限公司共对外投资了1家企业,参与招投标项目144次,财产线索方面有商标信息23条,专利信息2462条,此外企业还拥有行政许可5个。

声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。

本文源自:市场资讯

作者:情报员