国家知识产权局信息显示,北京趋境科技有限责任公司申请一项名为“推理集群的节点角色切换方法、装置、设备及存储介质”的专利,公开号CN122578607A,申请日期为2026年5月。
专利摘要显示,推理集群的节点角色切换方法、装置、设备及存储介质包括:识别目标角色发生变更的目标节点,对旧角色对应的在线业务请求流量进行排空;查询推理容器组内大模型的当前状态,通过推理容器组内的本地状态转换,将目标角色对应的目标角色模型切换至前台可服务状态;将目标节点并入对应的服务池中。本发明基于先摘除旧标识、后挂载新标识的流量隔离时序,节点不可服务窗口极短,有效抑制了配比调整过程中的服务抖动;通过声明式目标拓扑结合节点本地状态机的自主收敛,集群能够快速响应业务负载变化,及时完成预填充资源与解码资源之间的重新分配,提高了整体资源利用率和在线服务稳定性。
天眼查资料显示,北京趋境科技有限责任公司,成立于2023年,位于北京市,是一家以从事科技推广和应用服务业为主的企业。企业注册资本680.8692万人民币。通过天眼查大数据分析,北京趋境科技有限责任公司共对外投资了5家企业,参与招投标项目1次,财产线索方面有商标信息4条,专利信息13条,此外企业还拥有行政许可1个。
声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。
本文源自:市场资讯
作者:情报员
热门跟贴