国家知识产权局信息显示,安徽讯飞寰语科技有限公司申请一项名为“推理方法、设备、推理集群、存储介质和程序产品”的专利,公开号CN121480725A,申请日期为2025年11月。

专利摘要显示,本申请公开了一种推理方法、设备、推理集群、存储介质和程序产品,涉及人工智能技术领域,包括:预先训练一个包含多个子模型的推理模型,该推理模型的不同子模型的参数量不同;不同的子模型用于执行不同数据模态和/或不同推理精度的推理任务;将推理模型部署到推理集群的各个节点中,推理集群中的每个节点能够加载推理模型的不同子模型,同一时刻每个节点只加载一个子模型;基于此,当获得用户请求时,根据用户请求和推理集群的当前负载,确定与用户请求适配的目标子模型;将用户请求分配给加载有目标子模型的一个节点,以通过这个节点中的目标子模型响应用户请求。基于本申请,在有效利用集群资源的同时缓解高负载下响应不足的问题。

天眼查资料显示,安徽讯飞寰语科技有限公司,成立于2020年,位于合肥市,是一家以从事软件和信息技术服务业为主的企业。企业注册资本2000万人民币。通过天眼查大数据分析,安徽讯飞寰语科技有限公司参与招投标项目4次,专利信息44条,此外企业还拥有行政许可5个。

声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。

本文源自:市场资讯

作者:情报员