国家知识产权局信息显示,联通在线信息科技有限公司申请一项名为“面向轻量级Web容器的端侧AI推理优化方法及装置”的专利,公开号CN122816901A,申请日期为2026年7月。
专利摘要显示,本发明公开了一种面向轻量级Web容器的端侧AI推理优化方法及装置,包括:解析目标AI模型计算图,提取算子类型并编译为独立WebAssembly模块,对同类型算子生成多版本Kernel;按调用频率划分为主加载包和按需加载包,启动时加载主包,推理中首次调用低频算子时加载按需包;检测设备能力为算子选择匹配版本并构建映射表;监控设备状态变化时加载目标版本并更新映射表函数指针,保持计算图和张量数据不变完成动态替换。本发明能降低推理包体积,实现设备自适应优化,支持运行时动态切换算子以提升推理性能。
天眼查资料显示,联通在线信息科技有限公司,成立于2006年,位于北京市,是一家以从事软件和信息技术服务业为主的企业。企业注册资本40000万人民币。通过天眼查大数据分析,联通在线信息科技有限公司共对外投资了10家企业,参与招投标项目2246次,财产线索方面有商标信息58条,专利信息861条,此外企业还拥有行政许可6个。
声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。
本文源自:市场资讯
作者:情报员
热门跟贴