国家知识产权局信息显示,清华大学;青岛聚看云科技有限公司申请一项名为“量化感知训练模型的张量重排与自适应推理方法及装置”的专利,公开号CN122222026A,申请日期为2026年4月。

专利摘要显示,本发明提供一种量化感知训练模型的张量重排与自适应推理方法及装置,方法包括:获取并加载量化模型的配置文件,并根据配置文件中的版本标识,生成算子调度策略标志;版本标识用于表征量化存储格式;量化模型是基于目标存储格式对原始浮点模型的张量进行量化转换及张量重排处理后生成的;响应于接收到的推理请求,调用量化计算核,并将算子调度策略标志作为参数传入量化计算核中,以依据算子调度策略标志,自适应选择与版本标识相匹配的数据处理逻辑,对模型权重进行反量化处理,并结合反量化处理得到的解压缩后的权重数据执行矩阵乘法运算,得到计算结果。本发明实现了量化模型跨版本格式的无缝兼容接入以及推理计算性能的高效自适应调度。

声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。

本文源自:市场资讯

作者:情报员