国家知识产权局信息显示,北京万界数据科技有限责任公司申请一项名为“一种AI模型池化共享及在线推理实现方法”的专利,公开号CN122840251A,申请日期为2026年7月。
专利摘要显示,本发明公开了一种AI模型池化共享及在线推理实现方法,涉及机器学习模型部署与在线推理领域,解决了多AI模型共享实例池时因特征牵引方向冲突导致推理精度下降及实例分裂时流量中断的问题。本发明通过提取多个AI模型的公共计算核构建共享实例池,在处理在线推理请求的同时计算辅助梯度并存入缓冲区;基于缓冲区记录计算推理流形张力场张量以得出共享应力,当共享应力超过预设阈值时触发分裂;通过推理惯性通量控制流量冻结,将新请求暂存至微缓冲队列;通过实例退役排空熵函数监测旧实例任务排空状态,在排空完成后回收资源并激活新实例,将微缓冲队列中的请求分发至新实例处理。本发明实现了多模型共享推理资源的高效利用与实例在线无损演化。
天眼查资料显示,北京万界数据科技有限责任公司,成立于2014年,位于北京市,是一家以从事批发业为主的企业。企业注册资本1000万人民币。通过天眼查大数据分析,北京万界数据科技有限责任公司共对外投资了46家企业,参与招投标项目13次,财产线索方面有商标信息7条,专利信息27条,此外企业还拥有行政许可5个。
声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。
本文源自:市场资讯
作者:情报员
热门跟贴