国家知识产权局信息显示，上海云燧科技有限公司申请一项名为“一种模型的解码推理方法、装置、电子设备和存储介质”的专利，公开号CN122616712A，申请日期为2026年5月。

专利摘要显示，本发明公开了一种模型的解码推理方法、装置、电子设备和存储介质，涉及高性能计算技术领域，包括：根据硬件参数和全部键值缓存的数量确定分级阈值，并根据分级阈值参照序列长度将各键值缓存归属到不同类型的计算阶段集合；当小段集合满足余数平滑调度条件时提取目标键值缓存，将目标键值缓存迁移至中段集合以获取到更新后的计算阶段集合；将更新后的计算阶段集合采用匹配的计算策略进行解码推理计算。通过不同长度的键值缓存匹配到合适的存储访问层级，实现了最大化硬件利用率，有效消除了“木桶效应”导致的性能瓶颈，并且通过余数平滑调度机制消除了小段集合内尾部余数导致的计算资源浪费，显著提升了整体吞吐量和模型的推理进度。

天眼查资料显示，上海云燧科技有限公司，成立于2020年，位于上海市，是一家以从事科技推广和应用服务业为主的企业。企业注册资本20000万人民币。通过天眼查大数据分析，上海云燧科技有限公司共对外投资了1家企业，专利信息36条，此外企业还拥有行政许可4个。

声明：市场有风险，投资需谨慎。本文为AI基于第三方数据生成，仅供参考，不构成个人投资建议。

本文源自：市场资讯

作者：情报员