国家知识产权局信息显示,招商银行股份有限公司申请一项名为“大模型推理加速方法、装置、设备、存储介质及程序产品”的专利,公开号CN122549421A,申请日期为2026年6月。
专利摘要显示,本申请公开了一种大模型推理加速方法、装置、设备、存储介质及程序产品,涉及人工智能技术领域,该方法包括:若接收到的用户请求包含模板参数,解析模板参数中的固定字段和非固定字段,并将各固定字段编码为对应的固定词元序列,得到固定词元列表;在大模型生成词元的过程中实时获取已生成的目标词元序列;采用最长后缀匹配机制,将目标词元序列与固定词元列表进行匹配,从匹配长度最大的固定词元序列中截取候选词元序列推荐给大模型进行前向计算,以加速大模型的推理过程。通过引入模板参数,并基于模板中的固定字段,采用最长后缀匹配机制生成候选词元用于加速推理,无需依赖辅助模型,减少显存资源占用的同时,提升大模型输出格式的稳定性。
天眼查资料显示,招商银行股份有限公司,成立于1987年,位于深圳市,是一家以从事货币金融服务为主的企业。企业注册资本2521984.5601万人民币。通过天眼查大数据分析,招商银行股份有限公司共对外投资了13家企业,参与招投标项目7720次,财产线索方面有商标信息1342条,专利信息2486条,此外企业还拥有行政许可463个。
声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。
本文源自:市场资讯
作者:情报员
热门跟贴