国家知识产权局信息显示,湖北芯擎科技股份有限公司申请一项名为“实现大模型推理中因果性掩码的方法、装置、设备及介质”的专利,公开号CN122114012A,申请日期为2026年4月。
专利摘要显示,本发明公开了一种实现大模型推理中因果性掩码的方法、装置、设备及介质,涉及自注意力机制技术领域,该方法包括VMPE完成向量‑矩阵运算后,将运算结果发送至SFU;SFU接收FW发送的cmd命令以获取输入数据;SFU基于预设位运算掩码运算对获取的输入数据进行处理后进行Softmax操作;其中,设定硬件实现架构包括负责处理向量‑矩阵运算的VMPE、负责处理其它向量运算的SFU,以及运行于RISC‑V CPU上的用于控制DMA、VMPE和SFU工作的FW。本申请无需提前构筑掩码矩阵,从而有效节省存储空间。
天眼查资料显示,湖北芯擎科技股份有限公司,成立于2018年,位于武汉市,是一家以从事软件和信息技术服务业为主的企业。企业注册资本27653.0116万人民币。通过天眼查大数据分析,湖北芯擎科技股份有限公司共对外投资了5家企业,参与招投标项目10次,财产线索方面有商标信息30条,专利信息140条,此外企业还拥有行政许可3个。
声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。
本文源自:市场资讯
作者:情报员
热门跟贴