国家知识产权局信息显示,济南浪潮数据技术有限公司申请一项名为“一种模型服务调用服务质量管控方法”的专利,公开号CN122870678A,申请日期为2026年7月。
专利摘要显示,本发明公开了一种模型服务调用服务质量管控方法,其中方法包括:接收并解析多调用方的模型推理请求,提取静态优先级、服务等级协议约束及资源消耗预估信息;基于多维硬件资源指标与业务性能指标,利用强化学习模型动态计算请求的有效优先级;按照有效优先级将请求分发至多级反馈队列,并执行动态批处理调度与资源抢占;结合实时指标变化进行弹性扩缩容,并将执行结果反馈以持续优化调度策略。本发明通过引入强化学习驱动的优先级动态调整机制与多级反馈队列调度策略,实现模型服务资源的高效利用与服务质量保障,解决了多租户场景下资源分配不均、服务延迟波动大及SLA难以满足的问题。
天眼查资料显示,济南浪潮数据技术有限公司,成立于2016年,位于济南市,是一家以从事软件和信息技术服务业为主的企业。企业注册资本14297.6744万人民币。通过天眼查大数据分析,济南浪潮数据技术有限公司共对外投资了3家企业,参与招投标项目220次,财产线索方面有商标信息3条,专利信息3581条,此外企业还拥有行政许可16个。
声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。
本文源自:市场资讯
作者:情报员
热门跟贴