国家知识产权局信息显示,江苏清微智能科技有限公司申请一项名为“大模型硬件部署处理方法、芯片及电子设备”的专利,公开号CN122114192A,申请日期为2026年4月。

专利摘要显示,本申请公开了一种大模型硬件部署处理方法、芯片及电子设备,方法包括:获取大模型在硬件设备上部署运行时各操作单元的量化敏感度;根据量化敏感度识别出对硬件计算误差影响满足设定要求的量化敏感目标;基于量化敏感目标,采用不依赖训练的方式得到用于控制数据截断的第一量化系数,以最小化硬件设备的量化输出误差;当基于第一量化系数提升量化精度的优化结果不满足要求或量化精度需要达到设定标准时,基于量化敏感目标,采用训练方法进行逐层优化,得到用于控制数据截断的第二量化系数;基于第一量化系数或第二量化系数生成适合硬件设备执行推理的大模型硬件部署处理文件。本申请可以提高大模型的部署效率。

天眼查资料显示,江苏清微智能科技有限公司,成立于2019年,位于南京市,是一家以从事软件和信息技术服务业为主的企业。企业注册资本3500万人民币。通过天眼查大数据分析,江苏清微智能科技有限公司共对外投资了1家企业,专利信息42条,此外企业还拥有行政许可5个。

声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。

本文源自:市场资讯

作者:情报员