观点网讯:9月1日,腾讯混元团队宣布推出Hy4 preview轻量版模型,将Hy4 preview的权重从1.5TB压缩到约214GB,压缩后体量显著减小。

据介绍,压缩后的模型长文理解能力几乎和原始模型持平,多轮长上下文检索和原版基本在同一水平,数学只有小幅回落,整体都在可接受范围内。

在应用层面,日常的编码辅助、工具调用、长文档处理和常规问答,该模型都能覆盖。

从产业部署角度看,权重体量从1.5TB降至约214GB,意味着模型对显存和存储资源的要求显著下降,有利于企业端在更低成本的服务器环境下完成私有化部署与推理。

对于需要处理长文档、多轮检索场景的机构用户而言,长上下文能力接近原版的同时部署成本下降,是该轻量版模型在企业AI应用落地中的主要看点。

腾讯混元此次未披露该模型的基准测试细节与商业化安排。

免责声明:本文内容与数据由观点根据公开信息整理,不构成投资建议,使用前请核实。

本文源自:观点网