国家知识产权局信息显示，中电信人工智能科技（北京）有限公司申请一项名为“并行推理方法、装置、非易失性存储介质及电子设备”的专利，公开号CN121480716A，申请日期为2025年11月。

专利摘要显示，本申请公开了一种并行推理方法、装置、非易失性存储介质及电子设备。该方法包括：将生成式模型的推理过程划分为多个计算阶段，在至少一个计算阶段设置早退出点；模型推理流水线中的每个计算阶段串行执行计算，并在计算推进至早退出点的情况下，触发并行执行模式；在并行执行模式下，设置有早退出点的当前计算阶段通过早退输出层生成投机草稿令牌，并将投机草稿令牌与已生成的输出令牌序列进行拼接；同时，当前计算阶段的后续计算阶段执行后续网络层的前向计算，以对投机草稿令牌进行验证；判断是否将投机草稿令牌确定为有效输出。本申请解决了由于基于早退出的自投机解码在生成令牌时无法即时验证正确性，造成的模型推理效率较低的技术问题。

天眼查资料显示，中电信人工智能科技（北京）有限公司，成立于2023年，位于北京市，是一家以从事电信、广播电视和卫星传输服务为主的企业。企业注册资本300000万人民币。通过天眼查大数据分析，中电信人工智能科技（北京）有限公司共对外投资了1家企业，参与招投标项目978次，专利信息514条，此外企业还拥有行政许可1个。

声明：市场有风险，投资需谨慎。本文为AI基于第三方数据生成，仅供参考，不构成个人投资建议。

本文源自：市场资讯

作者：情报员