国家知识产权局信息显示,清昴智能科技(北京)有限公司申请一项名为“一种线性注意力算子适配方法及装置”的专利,公开号CN122864686A,申请日期为2026年7月。

专利摘要显示,一种线性注意力算子适配方法及装置,应用于大语言模型推理中的注意力计算。该方法包括:获取包括历史累积矩阵A、值矩阵V、键矩阵K及第一权重向量β、第二权重向量g的输入张量;以fp32调用向量计算单元vector,计算A与β的逐元素乘积得到组合矩阵,并计算组合矩阵与V的乘积,生成历史内容摘要信息U;在生成U之后,以fp16调用矩阵计算单元cube,计算组合矩阵与K的乘积并将计算结果转换为fp32,再以fp32调用vector,与g的自然指数值进行逐元素乘,生成历史索引摘要信息W;存储U和W以供下游状态更新步骤调用、从而基于U和W更新全局状态矩阵并生成注意力输出结果。由此,在保证计算精度的同时提升了耦合架构芯片上的计算效率。

天眼查资料显示,清昴智能科技(北京)有限公司,成立于2022年,位于北京市,是一家以从事科技推广和应用服务业为主的企业。企业注册资本297.6235万人民币。通过天眼查大数据分析,清昴智能科技(北京)有限公司共对外投资了2家企业,参与招投标项目3次,财产线索方面有商标信息3条,专利信息4条,此外企业还拥有行政许可2个。

声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。

本文源自:市场资讯

作者:情报员