金融界2025年6月21日消息,国家知识产权局信息显示,中国大唐集团数字科技有限公司申请一项名为“一种应用于垂直领域的多阶段语义重排序微调方法和装置”的专利,公开号CN120181097A,申请日期为2025年03月。

专利摘要显示,本发明公开了一种应用于垂直领域的多阶段语义重排序微调方法和装置,包括以下步骤:S1,接收原始文档输入并将文档片段进行切分;S2,基于领域专家标注的高质量问答对,设计prompt模板指导大模型生成训练数据;S3,利用向量模型和重排序模型进行多阶段难负样本挖掘;S4,基于教师模型生成知识蒸馏信号;S5,采用全参数微调与LoRA微调相结合的多阶段训练策略对重排序模型进行优化。本发明方法能够有效提升重排序模型在垂直领域的性能。特别地,两阶段微调策略既保证了模型能够充分学习全局知识,又能针对性地优化难样本场景;而知识蒸馏机制则帮助模型继承教师模型的判别能力,在保持模型轻量化的同时取得良好的效果。

天眼查资料显示,中国大唐集团数字科技有限公司,成立于2023年,位于石家庄市,是一家以从事软件和信息技术服务业为主的企业。企业注册资本100000万人民币。通过天眼查大数据分析,中国大唐集团数字科技有限公司共对外投资了1家企业,参与招投标项目439次,专利信息25条。

本文源自:金融界

作者:情报员