金融界2025年4月2日消息,国家知识产权局信息显示,小哆智能科技(北京)有限公司申请一项名为“一种基于多级缓存机制的大模型部署方法及系统”的专利,公开号 CN 119739809 A,申请日期为2025年3月。

专利摘要显示,本申请提供一种基于多级缓存机制大模型部署方法及系统,其中,建立第一级动态语义缓存,在新请求匹配时优先反馈重构的答案,对于未命中请求,则启动第二级上下文关联缓存,通过提取隐式语义轨迹向量和构建动态关联图谱识别潜在上下文依赖关系,实现渐进式答案拼接,若仍未能覆盖,则激活第三级意图决策缓存,利用多层级解析结构进行场景归类、状态标记,基于知识拓扑网络生成查询指令并抽取多模态响应元素以生成组合式应答,系统同步执行多级缓存协同优化,根据用户反馈调整缓存策略,并自适应地扩容与淘汰缓存数据,本申请实施例提供的技术方案显著提升了大模型部署的响应速度、上下文理解能力和个性化服务水平。

天眼查资料显示,小哆智能科技(北京)有限公司,成立于2017年,位于北京市,是一家以从事科技推广和应用服务业为主的企业。企业注册资本3000万人民币,实缴资本2149.52万人民币。通过天眼查大数据分析,小哆智能科技(北京)有限公司参与招投标项目16次,财产线索方面有商标信息43条,专利信息46条,此外企业还拥有行政许可3个。

本文源自:金融界

作者:情报员