国家知识产权局信息显示,上海成集电子科技有限公司申请一项名为“一种基于多级缓存与语义预热的词元汇聚分发方法及系统”的专利,公开号CN122635348A,申请日期为2026年5月。

专利摘要显示,本发明涉及语义处理技术领域,尤其涉及一种基于多级缓存与语义预热的词元汇聚分发方法及系统,该方法获取历史词元请求交互日志,分析不同业务场景及上下文片段的访问特征;结合语义依赖关系,识别词元访问的规律性重复与突发性热点特征,确定预加载目标集合;实时获取当前推理请求的上下文语义数据,分析待生成输出的词元预测需求参数;融合词元预测需求参数与预加载目标集合,动态生成词元汇聚参数及分发调度策略。本发明通过深度挖掘历史规律与实时语义意图,实现了词元资源的前瞻性预热与精准调度,有效解决了传统缓存策略语义感知弱、命中率低及响应滞后等问题,显著降低了大模型推理延迟,提升了系统在高并发场景下的吞吐率与稳定性。

天眼查资料显示,上海成集电子科技有限公司,成立于2019年,位于上海市,是一家以从事专业技术服务业为主的企业。企业注册资本1500万人民币。通过天眼查大数据分析,上海成集电子科技有限公司参与招投标项目279次,此外企业还拥有行政许可1个。

声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。

本文源自:市场资讯

作者:情报员