把AI关掉的那一刻,很多人连题都做不下去了。
加州大学伯克利分校一位研究者参与合著的一项研究给出了一个让人不太舒服的结论:仅仅依赖AI工具10分钟,人专注和坚持困难任务的能力就会明显受损。这项研究由一位UC Berkeley研究者参与合著,论文已在语言建模会议上进行了同行评审后的展示。
研究团队设计了随机对照试验,共招募1222名在线参与者。他们要回答的问题很直接:人的专注力和坚持度,到底能掉得多快?
三道题之后,差距出现了
第一组实验有354人。一部分人独立完成15道基础分数题,另一部分人旁边开着ChatGPT,可以随时求助,甚至直接问答案。
有AI帮忙的那组,一开始准确率更高。但做到第12题时,研究人员把AI工具收走了。几乎立刻,这组人就不再能准确解题了。
第二组实验规模更大,有667人,结果类似。AI被撤走后,用过AI的人要么答错,要么干脆放弃;而始终没有AI辅助的那组,坚持做完了任务,最后的表现反而更好。
第三组实验换了题型,用SAT阅读理解,201人参与。结论和前两组一致:AI工具一撤,坚持度和准确率同时下滑。
论文作者之一、伯克利人类兼容人工智能中心研究员布莱恩·克里斯蒂安说:“你几乎找不到比这更清晰的故事了。”他坦言,自己也有同样的感受。
被省掉的“有效挣扎”
研究团队把问题指向一个概念:“有效挣扎”。人在独立攻克难题时,会经历一段不舒服的过程,而正是这个过程帮人找到自己的研究强项和兴趣所在。AI几秒钟给出答案,这段过程就被跳过了。
当AI把答案压缩到几秒,人就会习惯这个速度。任何需要更长时间的事情,都会显得低效。克里斯蒂安说:“我们造这些系统是为了帮忙,但它们帮忙的方式,真的在帮我们吗?讽刺的是,我们证明了它们常常以一种不太有帮助的方式在帮我们。”
前沿AI公司也承认,把任务甩给聊天机器人,会降低一个人对某个主题的基础理解和掌握程度。克里斯蒂安的建议是,AI的回答可以不默认给快速答案,而是更像一个导师,给出更有指导性的内容。
他说:“我们需要走向一个未来,让人类的能力尽可能被增强,而不是被取代。”
从分数题到人类知识
克里斯蒂安认为,这一点在科研和学术界尤其重要。他担心,过度依赖AI工具会危及好科学家的根本:贴近数据、沉浸于材料、作为团队一员工作。当一个由10人组成、孕育突破性想法的团队,被压缩成两三个研究员加一个聊天机器人,有些重要的东西可能会丢失。
“这不是一个关于分数题和SAT的故事,”克里斯蒂安说,“这是正在发生在人类知识和人类专业技能上的事,从上到下,从小学学生一直到世界顶尖专家。”
他桌上放着一个笔记本,每天都写。这个习惯让他保持踏实,也压住那个隐隐的怀疑:和AI共事太久,可能会让自己失去学术上的锋芒。现在,他的研究给出了证据。
热门跟贴