国家知识产权局信息显示,后摩智能科技股份有限公司申请一项名为“用于混合专家模型训练后量化的校准数据生成方法及系统,以及混合专家模型训练后量化方法”的专利,公开号CN122864525A,申请日期为2026年6月。
专利摘要显示,本申请涉及人工智能模型压缩与部署技术,公开了一种用于混合专家模型训练后量化的校准数据生成方法及系统,以及混合专家模型训练后量化方法。该方法提取目标 MoE 层的路由器权重和 RMSNorm 增益参数,基于目标专家与竞争专家的权重构造差分向量,经 RMSNorm 调制得到合成校准向量,再由同一路由器确定命中专家集合,并将合成校准向量与真实校准数据结合形成增强校准数据集。该方法有助于改善路由专家训练后量化时的校准覆盖质量。
天眼查资料显示,后摩智能科技股份有限公司,成立于2020年,位于北京市,是一家以从事软件和信息技术服务业为主的企业。企业注册资本2362.6942万人民币。通过天眼查大数据分析,后摩智能科技股份有限公司共对外投资了6家企业,财产线索方面有商标信息63条,专利信息128条,此外企业还拥有行政许可13个。
声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。
本文源自:市场资讯
作者:情报员
热门跟贴