国家知识产权局信息显示,企商在线(北京)数据技术股份有限公司申请一项名为“一种基于VLLM的异构集群分布式推理协同方法及系统”的专利,公开号CN122114199A,申请日期为2026年2月。

专利摘要显示,本发明的一种基于VLLM的异构集群分布式推理协同方法及系统,方法包括:S1:通过部署于集群中各计算单元的性能探针,生成异构设备性能画像信号;S2:根据异构设备性能画像信号,结合待推理模型的计算图结构进行非均匀任务切分,形成面向异构环境的最优任务调度策略信号;S3:基于最优任务调度策略信号,生成任务分配与加载指令信号;S4:在分布式推理执行过程中,协调各异构计算单元执行推理计算,生成分布式协同推理信号;S5:对分布式协同推理信号进行整合与后处理,输出最终的推理结果。本发明的一种基于VLLM的异构集群分布式推理协同方法及系统可以解决异构集群运行大模型时资源利用率低、推理效率差的问题。

天眼查资料显示,企商在线(北京)数据技术股份有限公司,成立于2003年,位于北京市,是一家以从事互联网和相关服务为主的企业。企业注册资本5375.0324万人民币。通过天眼查大数据分析,企商在线(北京)数据技术股份有限公司共对外投资了15家企业,参与招投标项目55次,财产线索方面有商标信息3条,专利信息19条,此外企业还拥有行政许可19个。

声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。

本文源自:市场资讯

作者:情报员