金融界2024年10月31日消息,国家知识产权局信息显示,杭州海康威视数字技术股份有限公司申请一项名为“一种算子优化方法、装置、电子设备及存储介质”的专利,公开号CN 118838722 A,申请日期为2024年9月。

专利摘要显示,本申请实施例提供了一种算子优化方法、装置、电子设备及存储介质,涉及到计算机技术领域,方法包括:在深度学习模型推理过程中,获取待优化算子计算过程的内存占用量及计算耗时;在所述内存占用量超过片上内存的情况下基于所述待优化算子的内存占用量及计算耗时,按照最小化运行时间的优化方式对所述待优化算子进行优化,其中,所述运行时间包括所述计算耗时和数据交互耗时,所述数据交互耗时与所述内存占用量正相关。本申请实施例实现了提高深度学习模型的推理速度。

本文源自:金融界

作者:情报员