在多起涉及 AI 聊天机器人缺乏安全保障、导致青少年自杀及其他心理健康问题的诉讼之后,OpenAI 于本周一正式宣布推出面向青少年的 ChatGPT 产品。这一新产品承诺将引入额外的安全措施,同时着力应对 ChatGPT 被用于学术作弊这一日益突出的教育问题。
在教育功能层面,青少年版 ChatGPT 推出了全新的"学习模式"及一系列配套工具,旨在引导青少年用户主动探索、独立思考,而非仅仅追求快速获取答案。
OpenAI 在一篇博客文章中介绍称,"学习模式"将通过引导性问题和分步骤支持,帮助青少年深入理解学习内容。此外,当系统判断某位青少年用户可能正试图作弊、而非真正理解知识时,将自动弹出作业提醒,并引导其切换至"学习模式"。
该应用还将支持测验功能和学习可视化工具,同时提供家长或监护人控制选项,允许他们决定"学习模式"是否默认开启。
不过,目前尚不清楚青少年用户若不愿配合,绕过这些新机制的难度究竟有多大。青少年群体极其擅长规避家长控制和各类数字封锁手段。在青少年模式经受更严格的实际测试之前,这些安全措施在现实中的有效性仍有待观察。
与此同时,另一个问题同样值得关注:为何这些保护措施从一开始就没有被纳入 ChatGPT?该 AI 聊天机器人自 2022 年底上线,在周活跃用户突破 9 亿之后,才终于推出专门面向青少年的有实质意义的安全保障。
OpenAI 表示,适配该应用的保护机制现将在青少年版 ChatGPT 中默认启用,旨在减少青少年接触有害或不适合其年龄段内容的风险。这些措施基于 OpenAI 模型规范中的"18岁以下原则"制定,据该公司称,相关内容参考了"发展心理学研究及专家指导意见"。
家长还可以使用此前推出的家庭工具和家长控制功能,对设置进行管理、接收安全通知,并设定"安静时段"等。
此外,OpenAI 还宣布与 CodeAI 建立合作,帮助青少年更深入地了解 AI,包括其工作原理、如何引导和质疑 AI,以及如何合理使用 AI。在学校教育场景中,OpenAI 已推出面向教师的 ChatGPT 版本,为学校提供由机构统一管理的 AI 访问权限及相关支持。
Q&A
Q1:青少年版 ChatGPT 的"学习模式"具体是怎么运作的?
A:学习模式会在青少年用户学习时提供引导性问题和分步骤支持,帮助其理解知识而非直接给出答案。当系统检测到用户可能在作弊时,还会自动弹出提醒并建议切换至学习模式。此外,该模式支持测验功能和学习可视化工具,家长可设置是否默认开启。
Q2:青少年版 ChatGPT 的安全措施真的有效吗?
A:目前效果尚不明朗。虽然 OpenAI 表示相关保护机制将默认启用,并基于发展心理学研究制定,但青少年普遍擅长绕过数字限制和家长控制。在经过更严格的实际测试之前,这些安全措施能否真正发挥作用仍有待验证。
Q3:家长如何管理孩子使用青少年版 ChatGPT?
A:家长可通过 OpenAI 提供的家庭工具和家长控制功能进行管理,包括调整应用设置、接收安全通知,以及设定"安静时段",限制孩子在特定时间段内使用该应用。部分功能(如学习模式是否默认开启)也可由家长自行决定。
热门跟贴