金融界 2024 年 11 月 28 日消息,国家知识产权局信息显示,天地科技股份有限公司北京技术研究分公司、煤炭科学研究总院有限公司申请一项名为“基于扩散模型生成数据的模型量化方法以及装置”的专利,公开号 CN 119026645 A,申请日期为 2024 年 8 月。

专利摘要显示,本申请提出一种基于扩散模型生成数据的模型量化方法以及装置,其中,方法包括:获取高斯分布的数据集采样样本;基于高斯分布的数据集采样样本和待量化模型,通过扩散模型生成伪训练数据;扩散模型采用 UNet 网络结构作为核心架构,UNet 网络结构的编码器后端加入多头注意力机制,多头注意力机制用于建立特征图中各元素间的关联关系,以使 UNet 网络结构的感受野为整个图像;通过伪训练数据对待量化模型进行模型量化处理,得到低比特量化模型。以实现无训练数据的模型量化。

本文源自:金融界

作者:情报员