极目新闻记者 周丹
实习生 贺怡萍 魏文婧
6月19日，上海人工智能实验室发布首个AI高考全卷评测结果，月初开源的阿里通义千问大模型Qwen2-72B排名第一，在语数外三科420分的满分中获得303分，高于OpenAI的GPT-4o和上海人工智能实验室的书生·浦语2.0文曲星（InternLM2-20B-WQX）。
语文和英语表现良好，数学不及格
极目新闻记者看到，上海人工智能实验室公众号文章介绍，高考覆盖各类学科及题型，这一面向人类设计的高难度综合性测试，目前普遍被研究者用于考查大模型的智能水平。2024年全国高考甫一结束，上海人工智能实验室的司南评测体系OpenCompass就选取6个开源模型及GPT-4o进行高考“语数外”全卷能力测试。因无法确定闭源模型的更新时间，为公平起见，此次评测没有纳入商用闭源模型，仅引入GPT-4o作为评测参考。
本次评测采用全国新课标Ⅰ卷，参与评测的所有开源模型，开源时间均早于高考，确保评测 “闭卷”性。全卷试题既包含选择、填空等“答案唯一性”题目，也包括简答、阅读理解及作文等主观题，在更加接近真实高考的环境中测试模型能力。大模型的成绩由具有高考评卷经验的教师人工评判，更加接近真实阅卷标准。
评测结果显示，Qwen2-72B以语数外303分的总成绩，成为本次大模型高考“状元”，领先于GPT-4o（296分）及书生·浦语2.0文曲星（InternLM2-20B-WQX，295.5）。本次评测的另外三位大模型选手分别是法国AI创业公司Mistral的Mixtral 8x22B模型、零一万物公司的Yi-1.5-34B模型、智谱AI的GLM-4-9B、阿里巴巴的通义千问Qwen2系列的混合专家（MoE）模型Qwen2-57B-A14B，通义千问的MoE模型同样表现不俗，总分（254分）位列第四名。
上海人工智能实验室指出，大部分模型考生的语文、英语科目表现良好，但在数学方面还有很大的提升空间。
InternLM2-20B-WQX取得了数学单科的最高分，但仍未达到及格水平，表明大模型的数学能力存在较大提升空间。
后续将引入多模态大模型测评
与以往多采用高考客观题评测大模型的方式不同，在此次测试中，既有选择、填空等“答案唯一性”题目，也包括简答、阅读理解、作文等主观题，在更接近真实高考的环境中测试模型的能力。
为贴近高考评卷模式，研究团队邀请多位有阅卷经验的高中教师对主观题答案评分，每份考卷至少由3人分别打分。遇到评分悬殊的情况，老师们会进行复核，尽量做到评分公正，为人工智能学术界和产业界提供更有价值的参考指标。与真实的高考一样，所有大模型答卷均进行了匿名处理，避免阅卷教师产生“先入为主”的观念。
对于这些“AI考生”的语数外水平，老师们给出了中肯的评价——
语文评卷显示，大模型的现代文阅读理解能力普遍较强，但不同模型的文言文阅读理解能力差距较大。大模型写的作文更像问答题，虽有针对性，但缺乏修饰，几乎不用人类考生都会使用的举例论证、引用论证、名人名言等手法。多数大模型不理解“本体”“喻体”“暗喻”等语文概念。对于文章中的一些“潜台词”，大模型也无法完全理解。
数学评卷显示，大模型的主观题回答相对凌乱，解题过程有迷惑性，甚至出现过程错误但得到正确答案的情况。大模型的公式记忆能力很强，但无法在解题过程中灵活运用。
大模型的英语整体表现良好，大模型写的英语作文普遍存在因超出字数限制被扣分的情况，而人类考生大多因为字数不够被扣分。
据了解，本次“大模型高考”答案生成脚本、各模型答卷、教师评分细节全部公开。后续，研究团队将在评测中引入多模态大模型，以考查模型应对更多题型的能力，并陆续发布覆盖不同学科和地区的完整高考评测。
（来源：极目新闻）
热门跟贴