国家知识产权局信息显示,苏州元脑智能科技有限公司申请一项名为“键值缓存处理系统及方法”的专利,公开号CN123048618A,申请日期为2026年9月。

专利摘要显示,本申请公开了一种键值缓存处理系统及方法,涉及数据处理技术领域,通过第三处理器对历史键值缓存进行轻量化处理并缓存,使得目标对话重新激活时无需等待存储器中的高精度数据加载即可先行完成解码推理并生成第一响应结果;同时,第三处理器在轻量化推理过程中产生的注意力分数为数据价值判断提供了依据,仅将高关注度的远期历史键值缓存选择性加载至第二处理器,降低了数据传输开销;第二处理器对包含第一响应结果的近期上下文进行预填充并重建近期历史键值缓存,使其在后续解码时拥有完整的高精度上下文,从而在实现低延迟响应的同时保障了输出质量。

天眼查资料显示,苏州元脑智能科技有限公司,成立于2018年,位于苏州市,是一家以从事专用设备制造业为主的企业。企业注册资本38500万人民币。通过天眼查大数据分析,苏州元脑智能科技有限公司共对外投资了1家企业,参与招投标项目90次,专利信息28178条,此外企业还拥有行政许可18个。

声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。

本文源自:市场资讯

作者:情报员