国家知识产权局信息显示,GDM控股有限责任公司申请一项名为“大型神经网络的分布式训练”的专利,公开号CN122893120A,申请日期为2024年11月。

专利摘要显示,用于使用分布式计算系统来训练大型神经网络以执行机器学习任务的系统和方法。可训练参数的共享集合在共享数据存储库中被维护,并且地理上分布的工作体集合中的每个工作体使用分片训练数据集来更新其可训练参数。存在两个优化过程:外优化过程和内优化循环,该内优化循环由每个工作体独立且并行地执行数十次、数百次或数千次。工作体可以具有不同的计算能力并且可以在地理上彼此远离,并且由该系统使用的通信带宽可以比其他系统的通信带宽小两个或三个数量级。

声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。

本文源自:市场资讯

作者:情报员