金融界2025年5月16日消息,国家知识产权局信息显示,山东浪潮科学研究院有限公司申请一项名为“模型量化方法、装置、设备、介质及计算机程序产品”的专利,公开号CN119990221A,申请日期为2025年1月。
专利摘要显示,本发明提供一种模型量化方法、装置、设备、介质及计算机程序产品,所述方法包括:基于获取的待处理模型的权重信息,确定权重矩阵;基于所述权重矩阵,确定所述待处理模型的权重块数据和代码本数据;基于所述权重块数据和所述代码本数据,对所述权重块进行迭代量化,得到量化模型;对所述待处理模型和所述量化模型进行困惑度对比,得到模型量化结果。本发明提供的模型量化方法可以减少大语言模型的存储空间和需求计算资源,提高模型的推理速度和效率,从而在资源受限的环境下,实现模型的高效部署和推理。
天眼查资料显示,山东浪潮科学研究院有限公司,成立于2021年,位于济南市,是一家以从事研究和试验发展为主的企业。企业注册资本20000万人民币。通过天眼查大数据分析,山东浪潮科学研究院有限公司共对外投资了1家企业,参与招投标项目99次,财产线索方面有商标信息22条,专利信息2199条,此外企业还拥有行政许可5个。
本文源自:金融界
作者:情报员
热门跟贴