纽约市议会中有29名议员本月联名致信,支持在纽约市公立学校实行两年的人工智能暂停令。信中呼吁暂停在公立学校引入新的人工智能教育科技支出,理由是担忧学生隐私,以及人工智能可能阻碍认知发展。

打开网易新闻 查看精彩图片

这种跨党派支持,反映出社区层面的深切忧虑。全市各地的社区教育委员会和地方学区委员会,正不断通过决议,把家长对人工智能的强烈不满转化为要求暂停令的正式主张。在分别代表的市议会选区和社区教育委员会中,听到的担忧包括:课堂上究竟使用了哪些人工智能平台,家长和学生缺乏知情与同意;安全和隐私防护措施不足;缺少充分的公众参与;以及最重要的,人工智能对儿童认知能力的负面影响。

在学生数据隐私担忧达到高点、又面临联邦移民执法监控威胁的情况下,不能拿不稳定的技术合同去冒险。纽约州主计长办公室曾发布报告,指出人工智能教育科技项目存在技术缺陷,也很容易发生数据泄露。报告显示,2023年至2025年间,至少发生了141起学生数据泄露事件。

这会制造一种令人不安的学习环境。学生可能因为担心自己或家人被非法移民执法盯上,而无法安心参与集体学习活动。在4月的教育政策小组会议上,大批家长、教师和学生到场,对城市学校使用人工智能表达愤怒。近100名社区成员严厉批评教育局处理这项技术的方式。教育新闻机构Chalkbeat将这场风波称为“人工智能反抗”。会议从开始到结束持续近7小时,直到凌晨12时45分才散会。

打开网易新闻 查看精彩图片

随着越来越多家庭了解到孩子的课堂里已经有多少人工智能应用,一场运动迅速在全市扩展。已有4000多名纽约人签署请愿书,要求实行两年暂停令。7个社区教育委员会已通过决议,要求实施两年暂停令。十多个组织加入了“人工智能暂停联盟”,共同呼吁暂停。这股反对声音并不只存在于纽约市。致力于保护儿童免受大型科技公司负面影响的全国性组织“公平游戏”正在呼吁在全美实行5年暂停令,洛杉矶也有类似的暂停令倡议。

学校总监卡马尔·塞缪尔斯宣布,要在孩子身上测试人工智能产品后,引发了广泛愤怒。喜剧演员、同时也是家长的伊拉娜·格雷泽在一段于Instagram上广泛传播的视频中表示,如果市长佐赫兰·马姆达尼不阻止人工智能涌入学校,“我会非常心碎”。她也曾在市议会集会上发言。教育局曾承诺听取家长意见,并就其《人工智能指导意见》设置了45天征求意见期。这一期限是在春假前不久悄然宣布的。尽管教育局称会在这45天内认真征求家庭意见,但它一次公开会议都没有举行,而且大多数家庭至今仍不知道教育局推出了这项新政策。

打开网易新闻 查看精彩图片

征求意见期结束时几乎没有留下任何结果:调查结果并未公布。眼下,这一学年结束时的局面与开始时并无不同。纽约市学校仍处在人工智能应用的前沿地带,政策是先行动、后思考,却并不了解这类支出可能带来的深远后果。周三,在市议会教育委员会与科技委员会举行的联席听证会上,多名议员继续发出警告。几位议员都表达了类似担忧:在人工智能已经进入课堂的情况下,相关指导意见却仍在仓促推进。要真正理解这样一种庞大而渗透广泛的技术,以及它的实际使用状况,教育局应投入更多时间,进行更审慎的考量,以防学生受到伤害。

打开网易新闻 查看精彩图片

更重要的是,人工智能教育科技甚至没有完成它最初被赋予的核心任务:教育孩子。布鲁金斯学会普及教育中心的研究显示,在从3岁幼儿班到12年级的课堂中使用生成式人工智能,对认知发展、创造力和批判性思维的总体影响是负面的。教育局把这件事包装成公平议题,但真正最可能受到种族偏见、隐私侵犯和环境污染伤害的,是这座城市的黑人和棕色人种学生及其家庭。一些学校管理者声称,既然人工智能已经存在于现实世界,就必须教孩子如何负责任地使用它。但要向学生讲清楚安全风险,并不需要为此增加技术支出。现实中存在的许多技术本来就被禁止进入校园,而教育局也早已为其他校外问题制定了明确规范,例如药物滥用、社交媒体和不当行为。纽约市完全可以、也必须以同样方式对待人工智能。

打开网易新闻 查看精彩图片

应当对那些长期左右公共机构决策的亿万富翁说“不”。不能继续坐视教育局向大型科技公司支付数以千万美元计的纳税人资金,同时无视社区要求在纽约市课堂中暂停生成式人工智能的呼声。为了孩子、学校和气候环境,必须做得更好。