国家知识产权局信息显示,深圳芯联半导体科技有限公司申请一项名为“一种面向AI大模型的自适应混合精度量化方法及装置”的专利,公开号CN122491363A,申请日期为2026年6月。

专利摘要显示,本申请提供了一种面向AI大模型自适应混合精度量化方法及装置,属于人工智能模型压缩技术领域。该方法旨在解决现有AI大模型量化方案存在优化效率低、层敏感度评估不全面、精度与压缩率难以平衡的问题。该方法包括:获取预训练的AI大模型,并基于校准数据集统计各网络层的层特征信息;基于层特征信息,计算各网络层的量化敏感度以生成敏感度矩阵;根据敏感度矩阵,采用权重与激活解耦的策略为各网络层自适应地分配量化位宽;根据分配的位宽在网络计算图中插入伪量化节点,以构建量化感知的计算图;最后,采用包含任务损失项和量化误差损失项的联合损失函数对模型进行微调。本申请通过精准的敏感度评估和量化感知微调,实现了高压缩率与低精度损失,且优化效率高,通用性强。

天眼查资料显示,深圳芯联半导体科技有限公司,成立于2024年,位于深圳市,是一家以从事科技推广和应用服务业为主的企业。企业注册资本123.4568万人民币。通过天眼查大数据分析,深圳芯联半导体科技有限公司共对外投资了3家企业,专利信息2条,此外企业还拥有行政许可3个。

声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。

本文源自:市场资讯

作者:情报员