国家知识产权局信息显示,北京数聚鑫云信息技术有限公司申请一项名为“AI网关的请求调度和缓存方法、装置、介质及设备”的专利,公开号CN122698670A,申请日期为2026年5月。

专利摘要显示,本申请是关于一种AI网关的请求调度和缓存方法、装置、介质和设备。其方法包括:AI网关接收用户请求,解析用户请求,提取多维度上下文信息;获取历史缓存条目,基于多维度上下文信息确定用户请求与各模型的历史请求的上下文相似度,获取各模型的实时负载值并确定模型可用负载值、各模型对应的缓存命中率;基于上下文相似度、模型可用负载值、模型对应的缓存命中率,确定目标模型;获取目标模型的响应,解析响应的业务属性,基于预先构建的分层缓存架构,对用户请求和响应进行多层级存储。能高效复用缓存条目,均衡模型负载,实现缓存复用及系统资源优化,提高响应速度。

天眼查资料显示,北京数聚鑫云信息技术有限公司,成立于2018年,位于北京市,是一家以从事科技推广和应用服务业为主的企业。企业注册资本5000万人民币。通过天眼查大数据分析,北京数聚鑫云信息技术有限公司参与招投标项目8次,财产线索方面有商标信息46条,专利信息99条,此外企业还拥有行政许可2个。

声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。

本文源自:市场资讯

作者:情报员