国家知识产权局信息显示,上海淇玥信息技术有限公司申请一项名为“基于提示自适应调优的大语言模型处理系统及方法”的专利,公开号CN121457604A,申请日期为2025年9月。

专利摘要显示,本申请涉及一种基于提示自适应调优的大语言模型处理系统、方法。该方法包括:根据用户的输入内容确定下游任务类型;基于所述下游任务类型确定自适应调优模块;加载所述自适应调优模块和预训练的大语言模型;在预填充阶段,所述自适应调优模块对所述输入内容进行提示调优,生成并缓存多个KV向量;在解码阶段,禁用所述自适应调优模块,所述大语言模型基于缓存的所述多个KV向量进行推理;在所述大语言模型推理结束后,生成推理结果并返回用户。本申请的技术具备更快的训练收敛与更高的稳定性,仅在大模型生成第一个token时消耗少量运算资源,降低适配管理成本,同时支持跨任务批量推理,大幅提升GPU利用率。

天眼查资料显示,上海淇玥信息技术有限公司,成立于2018年,位于上海市,是一家以从事软件和信息技术服务业为主的企业。企业注册资本500万美元。通过天眼查大数据分析,上海淇玥信息技术有限公司专利信息460条,此外企业还拥有行政许可5个。

声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。

本文源自:市场资讯

作者:情报员