国家知识产权局信息显示,中国移动通信集团有限公司申请一项名为“大语言模型训练方法及装置”的专利,公开号CN122472097A,申请日期为2026年2月。

专利摘要显示,本发明提供一种大语言模型训练方法及装置,涉及人工智能技术领域,方法包括:确定输入大语言模型的样本文本分词处理后得到的至少一个词语分别对应的分词向量;基于各所述分词向量,确定注意力得分矩阵和高斯带状注意力得分矩阵;基于所述高斯带状注意力得分矩阵与所述注意力得分矩阵,确定所述大语言模型的预测结果;基于所述预测结果和所述样本文本对应的标签数据,更新所述大语言模型的参数,得到最终训练好的大语言模型。通过确定的注意力得分矩阵和高斯带状注意力得分矩阵,实现大语言模型的训练,提升了大语言模型训练过程的收敛速度,降低对资源的占用,同时提升大语言模型的性能。

天眼查资料显示,中国移动通信集团有限公司,成立于1999年,位于北京市,是一家以从事电信、广播电视和卫星传输服务为主的企业。企业注册资本30000000万人民币。通过天眼查大数据分析,中国移动通信集团有限公司共对外投资了56家企业,参与招投标项目32762次,财产线索方面有商标信息2233条,专利信息47767条,此外企业还拥有行政许可51个。

声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。

本文源自:市场资讯

作者:情报员