国家知识产权局信息显示,北京曦和安行软件技术有限公司申请一项名为“基于解耦参考模型初始化的GRPO训练方法、装置及存储介质”的专利,公开号CN122759268A,申请日期为2026年6月。
专利摘要显示,本发明涉及基于解耦参考模型初始化的GRPO训练方法、装置及存储介质,应用于人工智能技术领域,包括:通过在GRPO训练框架中,策略模型使用SFT模型权重初始化,参考模型使用原始基座模型权重初始化并冻结,解决了现有技术中仅使用监督微调后的模型作为策略模型的初始化时,由于SFT分布坍缩导致模型探索空间受限的问题;同时通过将KL散度约束的锚点分布从SFT模型的窄分布切换为基座模型的宽分布,利用基座模型的信息熵远大于SFT模型的差异,为策略模型创造充分的探索空间;通过将KL散度锚点设定为基座模型的宽分布,使模型在GRPO训练过程中自动恢复SFT阶段丧失的指令遵循能力,无需额外的指令微调数据或训练阶段。
天眼查资料显示,北京曦和安行软件技术有限公司,成立于2021年,位于北京市,是一家以从事软件和信息技术服务业为主的企业。企业注册资本1000万人民币。通过天眼查大数据分析,北京曦和安行软件技术有限公司财产线索方面有商标信息4条,专利信息44条,此外企业还拥有行政许可1个。
声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。
本文源自:市场资讯
作者:情报员
热门跟贴