国家知识产权局信息显示,芯瞳半导体技术(厦门)有限公司申请一项名为“一种深度模型推理加速方法及系统”的专利,公开号CN121279466A,申请日期为2025年12月。
专利摘要显示,本发明实施例提供一种深度模型推理加速方法及系统,该方法包括:确定预训练模型的模型结构;基于模型结构,对预训练模型进行层级指标分析,得到各层的访问频率、计算需求和对数据精度的敏感度;基于层级指标,将预训练模型中的层划分为高频层和低频层;基于划分结果,采用第一压缩策略对高频层进行压缩,采用第二压缩策略对低频层进行压缩;基于输入数据的复杂度,动态配置各层的压缩策略;将得到的目标压缩模型中的高频层分配至图形处理器,低频层分配至中央处理器,并采用异步通信和流水线并行方式执行推理任务。该方法能够实现模型高效推理加速,平衡速度与精度。
天眼查资料显示,芯瞳半导体技术(厦门)有限公司,成立于2019年,位于厦门市,是一家以从事软件和信息技术服务业为主的企业。企业注册资本397.883万人民币。通过天眼查大数据分析,芯瞳半导体技术(厦门)有限公司共对外投资了6家企业,参与招投标项目5次,财产线索方面有商标信息23条,专利信息102条,此外企业还拥有行政许可11个。
声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。
本文源自:市场资讯
作者:情报员
热门跟贴