国家知识产权局信息显示,深圳清程极智科技有限公司申请一项名为“基于SIMD指令的反量化方法、设备和存储介质”的专利,公开号CN122491478A,申请日期为2026年4月。
专利摘要显示,本申请公开了一种基于SIMD指令的反量化方法、设备和存储介质,本申请涉及模型推理技术领域,方法包括:根据N方向处理宽度、K方向处理高度、每组比例因子权重数量将权重块拆分成多个子权重块;根据比例因子的格式类型将比例因子向量化转换为目标比例因子,并存储至统一缓冲区中共享临时缓冲区的第一区域;基于预设流程将子权重块批量恢复得到权重中间值,并将权重中间值存储至共享临时缓冲区的第二区域,第二区域位于第一区域的后部;根据预设流程中得到重复执行次数在统一缓冲区划分带填充的中间缓存区;基于中间缓存区将权重中间值和目标比例因子,处理得到反量化结果。本申请能够降低并行访存单元的冲突概率,提高访存并行度。
声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。
本文源自:市场资讯
作者:情报员
热门跟贴