国家知识产权局信息显示,深圳大普微电子股份有限公司申请一项名为“一种面向大语言模型的缓存处理方法及相关设备”的专利,公开号CN122777331A,申请日期为2026年7月。
专利摘要显示,本申请涉及大语言模型,公开一种面向大语言模型的缓存处理方法及相关设备,应用于启用全局解释器锁GIL的CPython进程。Python业务层持有GIL时,为键值对KV缓存加载或卸载请求注册回调,并生成不含Python对象的C++ I/O任务描述项。C++原生线程在不持有GIL且不访问Python对象时处理SSD I/O完成结果,将包含回调标识和任务状态的回调描述项压入C++回调队列。独立回调线程在队列数量达到阈值,或最早入队描述项的等待时间达到阈值时形成回调批次,再获取GIL执行批内Python回调,并在完成后统一释放GIL。该方法减少I/O完成路径与推理线程的GIL竞争和GIL获取次数。
天眼查资料显示,深圳大普微电子股份有限公司,成立于2016年,位于深圳市,是一家以从事软件和信息技术服务业为主的企业。企业注册资本43621.636万人民币。通过天眼查大数据分析,深圳大普微电子股份有限公司共对外投资了10家企业,参与招投标项目7次,财产线索方面有商标信息145条,专利信息381条,此外企业还拥有行政许可30个。
声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。
本文源自:市场资讯
作者:情报员
热门跟贴