国家知识产权局信息显示,中数智联(南京)科技有限公司申请一项名为“面向异构算力的分布式人工智能推理任务调度系统及方法”的专利,公开号CN122547547A,申请日期为2026年7月。

专利摘要显示,本发明涉及人工智能与分布式计算技术领域,公开一种面向异构算力的分布式人工智能推理任务调度系统及方法,解决调度与推理耦合、类型感知缺失及节点故障任务挂起等问题。系统包括调度服务模块、资源感知计算执行模块及分布式缓存模块。调度服务模块按任务类型将任务标识原子化写入独立的细分任务队列;计算节点在并发任务计数和显存余量均满足时,以驻留模型类型对应队列为优先发起阻塞弹出请求,复用或按需切换模型推理管线;以异步心跳维持节点在线状态,调度节点依据心跳超时识别故障节点并对挂起任务执行回滚救援与限次重试。本发明实现调度与计算分离,减少模型切换开销,提升异构算力集群的推理吞吐效率与可靠性

天眼查资料显示,中数智联(南京)科技有限公司,成立于2023年,位于南京市,是一家以从事专业技术服务业为主的企业。企业注册资本500万人民币。通过天眼查大数据分析,中数智联(南京)科技有限公司专利信息1条,此外企业还拥有行政许可1个。

声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。

本文源自:市场资讯

作者:情报员