金融界2025年6月10日消息,国家知识产权局信息显示,北京硅基流动科技有限公司申请一项名为“大模型的量化方法及系统”的专利,公开号CN120124692A,申请日期为2025年02月。

专利摘要显示,本公开涉及一种大模型的量化方法及系统。所述方法包括:针对离线大模型,针对模型的每个线性层进行贪心网格搜索,获取每个线性层对应的最优平滑因子;利用所获得的每个线性层对应的最优平滑因子,针对该对应线性层的权重和激活值在通道维度进行反向缩放,以保持缩放后的权重和激活值之间的乘法结果不变,从而获得平滑后权重和激活值;以及对大模型中的经过平滑后的权重和激活值执行量化处理,以便转换成INT8或FP8的数值格式或低于INT8或FP8的数值格式。

天眼查资料显示,北京硅基流动科技有限公司,成立于2023年,位于北京市,是一家以从事科技推广和应用服务业为主的企业。企业注册资本1891.3189万人民币。通过天眼查大数据分析,北京硅基流动科技有限公司共对外投资了2家企业,参与招投标项目6次,财产线索方面有商标信息5条,专利信息13条,此外企业还拥有行政许可1个。

本文源自:金融界

作者:情报员