国家知识产权局信息显示,清昴智能科技(北京)有限公司申请一项名为“一种面向混合专家模型的多卡专家均衡推理方法及系统”的专利,公开号CN122965682A,申请日期为2026年7月。

专利摘要显示,本发明提供一种面向混合专家模型的多卡专家均衡推理方法及系统,应用于混合专家模型推理阶段。该方法获取专家部署矩阵和专家负载向量,确定各专家的可映射设备集合,并将专家划分为刚性专家和弹性专家;根据刚性专家的唯一部署位置完成确定性分配并初始化设备负载信息;针对弹性专家,基于专家部署矩阵和当前设备负载信息进行分批级联路由,确定目标计算设备并动态更新设备负载信息;根据刚性专家路由结果和弹性专家目标计算设备索引构建完整专家路由矩阵,并生成当前计算设备对应的专家词元负载向量。通过差异化专家调度,实现多卡推理过程中的设备级负载均衡,提高计算资源利用率和混合专家模型推理效率。

天眼查资料显示,清昴智能科技(北京)有限公司,成立于2022年,位于北京市,是一家以从事科技推广和应用服务业为主的企业。企业注册资本297.6235万人民币。通过天眼查大数据分析,清昴智能科技(北京)有限公司共对外投资了2家企业,参与招投标项目3次,财产线索方面有商标信息3条,专利信息8条,此外企业还拥有行政许可2个。

声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。

本文源自:市场资讯

作者:情报员