国家知识产权局信息显示,华为技术有限公司申请一项名为“模型并行训练方法及分布式训练系统”的专利,公开号CN121457538A,申请日期为2024年7月。
专利摘要显示,本申请提供了一种模型并行训练方法及分布式训练系统,属于人工智能技术领域。该方法应用于分布式训练系统,该系统中各个加速设备之间通过高速互联链路通信连接,在模型并行训练过程中,在第一加速设备和第二加速设备的内存占用不均衡时,利用加速设备之间的高速互联链路,将第一加速设备上存储的激活值卸载至第二加速设备,并在第一加速设备需要该激活值时,利用高速互联链路,从第二加速设备中及时加载该激活值,通过这种方式,利用了加速设备之间的高速互联链路,对加速设备上存储的激活值进行合理调度,以平衡不同加速设备的内存占用,提升了系统资源利用率。
天眼查资料显示,华为技术有限公司,成立于1987年,位于深圳市,是一家以从事计算机、通信和其他电子设备制造业为主的企业。企业注册资本4104113.182万人民币。通过天眼查大数据分析,华为技术有限公司共对外投资了51家企业,参与招投标项目5000次,财产线索方面有商标信息5000条,专利信息5000条,此外企业还拥有行政许可1709个。
声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。
本文源自:市场资讯
作者:情报员
热门跟贴