国家知识产权局信息显示，深圳大普微电子股份有限公司申请一项名为“一种基于大语言模型的缓存调度方法及相关设备”的专利，公开号CN122777269A，申请日期为2026年7月。

专利摘要显示，本申请实施例提供一种基于大语言模型的缓存调度方法及相关设备，用于降低首个令牌生成时延TTFT。所述方法包括：接收业务端发起的一个或多个大语言模型LLM推理请求，并提取各个LLM推理请求的特征信息；查询每个LLM推理请求对应的键值KV缓存的存储层级状态；根据所述特征信息和所述存储层级状态，估算每个LLM推理请求从开始执行至输出首个令牌的预期服务时间；以所述预期服务时间为任务长度对所述LLM推理请求进行排序，并根据排序结果调度执行至少一个LLM推理请求。

天眼查资料显示，深圳大普微电子股份有限公司，成立于2016年，位于深圳市，是一家以从事软件和信息技术服务业为主的企业。企业注册资本43621.636万人民币。通过天眼查大数据分析，深圳大普微电子股份有限公司共对外投资了10家企业，参与招投标项目7次，财产线索方面有商标信息145条，专利信息381条，此外企业还拥有行政许可30个。

声明：市场有风险，投资需谨慎。本文为AI基于第三方数据生成，仅供参考，不构成个人投资建议。

本文源自：市场资讯

作者：情报员