国家知识产权局信息显示,罗伯特·博世有限公司申请一项名为“在对神经网络模型的训练中针对反向传播进行采样的方法和装置”的专利,公开号CN121925663A,申请日期为2023年9月。
专利摘要显示,一种在对具有多个层的神经网络模型的训练中针对反向传播进行采样的计算机实现的方法,包括:将一批次的训练数据输入到所述神经网络模型中;基于所述批次的训练数据的输出来计算损失函数;至少通过计算用于所述神经网络模型的每一层的激活梯度和权重梯度,基于所计算的损失函数来计算所述神经网络模型的可训练参数的梯度,并且其中,对于所述神经网络模型的每一层:基于第一比率对所述训练数据进行采样,以用于计算所述激活梯度,其中,所述第一比率是基于激活随机方差来调整的;和/或基于第二比率对所述训练数据进行采样,以用于计算所述权重梯度,其中,所述第二比率是基于权重随机方差来调整的;以及通过所计算的梯度来更新所述神经网络模型的所述可训练参数。还公开了若干其他方面。
声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。
本文源自:市场资讯
作者:情报员
热门跟贴