国家知识产权局信息显示,东南大学;南京龙渊微电子科技有限公司申请一项名为“一种基于稀疏掩码共享机制的Transformer硬件加速器以及稀疏神经网络运算的方法”的专利,公开号CN122491360A,申请日期为2026年4月。
专利摘要显示,本发明公开了一种基于稀疏掩码共享机制的Transformer硬件加速器以及稀疏神经网络运算方法,属于计算、推算或计数的技术领域。加速器包括稀疏权重存储模块、共享掩码库存储单元、解码与寻址单元、全局控制模块、以及计算处理模块。通过在预编译阶段对Transformer权重矩阵进行子块划分并构建有限数量的共享位图掩码库,将权重稀疏结构解耦为可复用的共享掩码与对应索引。推理时,硬件根据掩码索引从共享掩码库读取位图掩码作为选通信号,从输入激活中直接提取与非零权重对齐的有效元素进行乘加运算。本发明通过多个权重子块共享稀疏掩码结构,降低了硬件存储与控制开销,提高了Transformer模型推理效率与能效。
声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。
本文源自:市场资讯
作者:情报员
热门跟贴