北京君正申请降低计算量化参数时显存占用专利,减少计算量化参数中的显存占用
金融界 2024 年 11 月 28 日消息,国家知识产权局信息显示,北京君正集成电路股份有限公司申请一项名为“一种降低计算量化参数时显存占用的方法”的专利,公开号 CN 119026643 A,申请日期为 2023 年 5 月。
专利摘要显示,本发明提供一种降低计算量化参数时显存占用的方法,包括:S1,获取一个有精度的网络模型;S2,分批次输入校正数据集,通过分批次统计模型量化参数,每一个批次都计算量化参数并采用滑动平均迭代量化参数的方法;S3,获取到最终的 min、max 作为量化参数。本方法减少计算量化参数中的显存占用。
本文源自:金融界
作者:情报员
热门跟贴