国家知识产权局信息显示,天数彤央(浙江)半导体科技有限公司申请一项名为“基于动态Token预测数量的推理方法、装置及电子设备”的专利,公开号CN122655995A,申请日期为2026年7月。

专利摘要显示,本申请提供一种基于动态Token预测数量的推理方法、装置及电子设备,涉及人工智能技术领域。该方法通过获取推理设备的实时物理性能状态和历史推理负载状态,并利用预训练的强化学习模型动态决策当前推理轮次的最优Token预测数量,实现了MTP推理过程中Token预测数量随设备工况和负载变化的自适应调整,有效克服了现有固定Token预测数量方案在边缘端部署时因热节流导致性能倒挂的技术缺陷,在保障设备稳定运行的前提下最大化推理吞吐量。

天眼查资料显示,天数彤央(浙江)半导体科技有限公司,成立于2025年,位于衢州市,是一家以从事科技推广和应用服务业为主的企业。企业注册资本1000万人民币。通过天眼查大数据分析,天数彤央(浙江)半导体科技有限公司专利信息12条。

声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。

本文源自:市场资讯

作者:情报员