金融界2025年5月5日消息,国家知识产权局信息显示,长江水利委员会长江科学院和福建水投集团霍口水务有限公司申请一项名为“用于数字孪生水利大语言模型的高效知识蒸馏方法”的专利,公开号CN119918617A,申请日期为2024年12月。

专利摘要显示,本发明提供了一种用于数字孪生水利大语言模型的高效知识蒸馏方法。所述方法具体是通过标签平滑处理数字孪生水利大语言模型中的历史和实时监测水利数据;使用处理后的数据作为蒸馏前大冗余模型的输入,利用Softmax函数生成平滑的概率分布作为软标签,将软标签通过损失函数的优化量化子模型与蒸馏前大冗余模型之间的输出差异以提高蒸馏效率得到优化后的模型;针对优化后的模型引入动态记忆自适应更新策略,得到能够适应实时监测数据的成熟子模型,再将处理后的实时监测水利数据输入到成熟子模型中得到预测结果的输出。本发明可以实现在保持精度的前提下进行大规模水利数据的实时处理,快速响应大坝监测数据的变化,进行实时的安全风险预测。

本文源自:金融界

作者:情报员