国家知识产权局信息显示,数族科技(南京)股份有限公司申请一项名为“多场景的大模型轻量化部署与动态适配方法”的专利,公开号CN122489084A,申请日期为2026年5月。
专利摘要显示,本发明属于大模型部署技术领域,本发明公开了多场景的大模型轻量化部署与动态适配方法,包括:构建以硬件参数为输入、以策略组合为输出的策略网络;在硬件参数空间中采集采样点并执行性能测试获取最优策略标签,通过检测相邻采样点间最优策略的突变并在边界处反复补充采样,形成训练样本集;以各样本点的局部样本密度为权重,在精确拟合目标与安全策略正则化目标之间插值构造损失函数训练策略网络,得到部署策略网络;将待部署硬件节点的硬件参数输入部署策略网络,过滤违反约束的策略组合后输出概率最高者作为部署策略。通过自适应突变边界采样精确刻画不同硬件场景下最优策略的切换规律,解决了策略边界附近训练数据不足的问题。
声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。
本文源自:市场资讯
作者:情报员
热门跟贴