国家知识产权局信息显示,生成时代科技(上海)有限公司申请一项名为“一种评估大模型精度和优化的方法、系统、设备及介质”的专利,公开号CN122491468A,申请日期为2026年3月。
专利摘要显示,本发明公开了一种评估大模型精度和优化的方法、系统、设备及介质,包括:利用第一类大模型生成用于评估大模型服务质量的提示词模板和对应的第一推理结果,将提示词模板输入待评估的第二类大模型得到第二推理结果;所述第一类大模型的模型推理精度大于第二类大模型的模型推理精度;将两个推理结果逐Token对比,获取推理结果错误总数和错误Token集,根据推理结果错误总数计算第二类大模型的推理准确率;判断第二类大模型的推理准确率是否小于预设模型准确率阈值;将利用相似度方法和知识蒸馏方法对第二类大模型进行优化,利用优化后的第二类大模型对模型的服务质量进行评估。本发明提高了模型精度,降低了模型推理成本。
声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。
本文源自:市场资讯
作者:情报员
热门跟贴