国家知识产权局信息显示,新华三技术有限公司申请一项名为“一种基于RAG服务的推理问答方法及装置”的专利,公开号CN121561030A,申请日期为2025年10月。
专利摘要显示,本申请提供一种基于RAG服务的推理问答方法及装置。所述方法包括:接收用户的问答请求,该请求包含用户问题;获取RAG服务的运行状态参数,其中运行状态参数基于RAG服务后端多个服务实例的计算资源性能指标聚合计算得到;在运行状态参数指示RAG服务的当前负载值低于预设阈值时,向RAG服务的API接口发送用户问题以触发知识检索流程,得到上下文提示;向大语言模型的API接口发送上下文提示以触发推理流程,得到答案;将答案返回给用户。该方法综合计算RAG服务后端所有服务实例的性能指标,从而实现对RAG服务整体运行状态的全面评估,据此从问答请求的源头进行流量控制,有效保障高并发场景下RAG业务的稳定性。
天眼查资料显示,新华三技术有限公司,成立于2003年,位于杭州市,是一家以从事计算机、通信和其他电子设备制造业为主的企业。企业注册资本66198万人民币。通过天眼查大数据分析,新华三技术有限公司共对外投资了11家企业,参与招投标项目5000次,财产线索方面有商标信息877条,专利信息5000条,此外企业还拥有行政许可137个。
声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。
本文源自:市场资讯
作者:情报员
热门跟贴