国家知识产权局信息显示,北京罗克维尔斯科技有限公司申请一项名为“显存分配方法、装置、电子设备、计算机可读存储介质及计算机程序产品”的专利,公开号CN121070584A,申请日期为2024年6月。
专利摘要显示,本申请提供了一种显存分配方法、装置、电子设备、计算机可读存储介质及计算机程序产品;方法包括:根据待推理请求的数据长度与预设阶梯长度,分配待推理请求对应的显存空间;通过预设模型,基于待推理请求进行推理,将每步推理生成的推理数据记录在显存空间中;在基于预设阶梯长度,确定推理步数满足预设条件的情况下,对显存空间进行扩容,扩容量等于预设阶梯长度;预设阶梯长度大于1。通过本申请,能够提高模型推理的吞吐量和效率。
天眼查资料显示,北京罗克维尔斯科技有限公司,成立于2017年,位于北京市,是一家以从事科技推广和应用服务业为主的企业。企业注册资本100000万人民币。通过天眼查大数据分析,北京罗克维尔斯科技有限公司共对外投资了1家企业,参与招投标项目6次,财产线索方面有商标信息17条,专利信息4094条,此外企业还拥有行政许可11个。
声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。
本文源自:市场资讯
作者:情报员
热门跟贴