国家知识产权局信息显示,摩尔线程智能科技(北京)股份有限公司申请一项名为“一种GPU集群分布式推理系统及方法、电子设备、存储介质和计算机程序产品”的专利,公开号CN122549580A,申请日期为2026年5月。
专利摘要显示,本公开涉及计算机技术领域,尤其涉及一种GPU集群分布式推理系统及方法、电子设备、存储介质和计算机程序产品,所述系统包括:缓存管理层;缓存管理层包括:键值读写接口和缓存引擎;键值读写接口,用于接收GPU集群中目标计算节点发送的键值读写请求;缓存引擎,用于响应键值读写请求,在目标计算节点的GPU缓存中进行查找,以及在确定GPU缓存未命中的情况下,利用目标访存通道,将键值读写请求对应的键值数据,写入目标计算节点的GPU缓存,其中,目标访存通道包括内存高速直连总线和/或RDMA网络。根据本公开实施例能够有效提升推理过程中的键值数据IO速度,进而提升推理效率。
天眼查资料显示,摩尔线程智能科技(北京)股份有限公司,成立于2020年,位于北京市,是一家以从事软件和信息技术服务业为主的企业。企业注册资本47002.8217万人民币。通过天眼查大数据分析,摩尔线程智能科技(北京)股份有限公司共对外投资了11家企业,参与招投标项目9次,财产线索方面有商标信息321条,专利信息1621条,此外企业还拥有行政许可3个。
声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。
本文源自:市场资讯
作者:情报员
热门跟贴