国家知识产权局信息显示,北京世纪好未来教育科技有限公司申请一项名为“基于投机采样的大模型推理加速方法、装置、设备及介质”的专利,公开号CN121480743A,申请日期为2026年1月。

专利摘要显示,本申请提供一种基于投机采样的大模型推理加速方法、装置、设备及介质,该方法通过构建一个轻量级、自适应融合的双阶N‑Gram草稿模型框架,利用高阶N‑Gram模型捕捉局部上下文中的长序列依赖模式,同时借助低阶N‑Gram模型提供鲁棒的概率先验以缓解数据稀疏问题,在此基础上基于上下文语义强度感知动态确定插值权重,利用该插值权重对高阶与低阶N‑Gram模型各自输出的概率分布进行动态加权融合,有效结合高阶与低阶N‑Gram模型的互补优势生成混合概率分布,以利用该混合概率分布生成候选词元序列,避免了单一模型因阶数设定不当所引发的预测偏差,在保持极低计算开销和存储需求的同时,提升候选序列的语义合理性与验证通过率,实现大模型推理加速。

天眼查资料显示,北京世纪好未来教育科技有限公司,成立于2008年,位于北京市,是一家以从事软件和信息技术服务业为主的企业。企业注册资本20000万美元。通过天眼查大数据分析,北京世纪好未来教育科技有限公司共对外投资了7家企业,参与招投标项目11次,财产线索方面有商标信息1283条,专利信息674条,此外企业还拥有行政许可9个。

声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。

本文源自:市场资讯

作者:情报员