训练一个AI家教,最难的不是让它讲得对,而是让它知道讲完之后学生到底懂没懂。这个反馈信号,过去通常要靠真人学习研究来提供。

一项名为StudentSim的研究,试图把这件事搬到模拟环境里完成。它用公开的、去标识化的学习记录,训练出针对每个学生的个性化AI模拟器,让AI家教在见到真人学习者之前,先在一批"虚拟学生"身上试错。

打开网易新闻 查看精彩图片

需要先说清楚边界:StudentSim是一套研究系统,不是产品,没有部署进课堂,也不打算取代老师。它的用途只有一个——在研发阶段评估和改进AI家教。

为什么真人反馈不够用

AI家教的质量,没法只看它给出的答案。真正要问的是:这段指导到达学生之后发生了什么?学生改掉了原来的错误吗?这个提示是帮他推到了答案,还是直接把答案送了出去?换一个学生,是不是需要完全不同的支持?

在当下的AI家教研究里,回答这些问题通常要做真人学习研究。这类研究有价值,但慢、贵,很难在模型快速迭代的过程中持续提供反馈。

这正是StudentSim想填的缺口:让"学生反馈"在AI家教的开发过程中变得更容易获得。研究同时提出了StudentSimEval,一个覆盖国际象棋、第二语言英语写作和数学三个领域的基准与评估协议。

让大模型扮演学生,难在哪

最直接的做法是让大语言模型角色扮演。比如给它一句提示:"你是一个数学吃力的低年级学生。"模型能改变语气,也能表达不确定。

难的是守住这个学生真实的能力边界。模型可能一边用小孩的口吻说话,一边调用远超这个学生水平的知识和推理。对训练AI家教来说,这会制造误导性反馈——家教看起来有效,只是因为模拟出来的学生太强了。

传统的学生建模走的是另一条路。知识追踪和行为预测模型扎根于真实学习记录,能估计学生当前的知识、技能和学习习惯。但这类模型很多在设计时就没打算把自然语言的教师指导作为输入。它们能描述学生做过什么,却不一定能告诉我们,学生对某一句解释、某一个提示、某一个苏格拉底式提问会怎么反应。

两个维度,对应教育研究里的一个老概念

StudentSim用两个维度来定义目标,灵感来自教育研究。教育者常区分两件事:学习者独立能做什么,以及在支持下能做什么。维果茨基的"最近发展区",说的就是当前独立表现与有指导表现之间的这段差距。

StudentSim把这个想法落成两个评估目标:

  • 行为保真度:模拟器在留出题目上的回答,是否匹配某个具体学生的真实记录
  • 指导响应度:模拟器读完教师指导后,是否会更新自己的回答

这两个目标互补。只匹配历史行为的模拟器,做预测也许够用,但它显示不出一次教学干预到底有没有帮上忙。反过来,一个总是顺着教师走的模拟器,回答可能很流畅,却代表不了某个具体学生的强项、弱项和大概率会犯的错。

AI家教的训练同时需要这两种信号:学习者的起点,以及指导如何改变学习者的表现。

数据稀疏,所以分两步训练

StudentSimEval完全建立在公开的、为研究用途发布且经过去标识化的学习者数据集上。记录中不含任何可识别个人身份的信息,每个个性化模拟器只在该学生自己的去标识化记录上训练。

真实学生数据在个体层面往往很稀疏。一个学习者可能只贡献了少量作文、答案或交互记录。为每个学生从零训练一个独立模拟器,既容易过拟合,也要求每个模型重新学一遍该领域的通用模式。

StudentSim采用两阶段训练流程。第一阶段,模型在同一领域内许多学生的汇总记录上训练,学到常见的回答格式、常见错误,以及学生接受指导后常见的修改方式。第二阶段,模型在单个学生自己的记录上做专门化,产出属于这个学生的个性化模拟器。

评估覆盖三个响应类型不同的领域。在国际象棋中,模拟器预测玩家的下一步棋,以及该玩家在指导下可能如何调整。在第二语言英语写作中,它生成带有与该学习者匹配的错误模式的作文,并预测教师在给出反馈后的修改。在数学领域,它预测学生的作答。

研究结果显示,在国际象棋、第二语言英语写作和数学三个领域,StudentSim都优于主流基线方法,并且能为训练AI家教提供有用的反馈信号。