在最近的参议院证词中,一位匿名的德克萨斯州母亲“简·多”,感到悲痛她15岁的儿子在使用Character.AI后,心理和身体健康急剧恶化。这款应用在苹果应用商店被标榜为适合12岁及以上儿童使用。几个月内,这个男孩变得偏执、暴力,甚至出现了杀人倾向。他拒绝进食,体重下降了20磅(约9公斤),甚至在兄弟姐妹面前自伤。他现在在一个住院治疗机构中。

当简提起诉讼时,Character.AI声称她的儿子作为未成年人‘签署’的应用服务条款对他有约束力,将其责任限制在100美元。案件被迫进入仲裁,但公司随后拒绝参与,让这个家庭在孩子仍在住院治疗期间无处可去。

任何孩子都不应该被要求签署放弃自己权利的合同,也不应该让数十亿美元的公司逃避责任。任何孩子都不应该受限于允许公司收集其个人数据或在没有父母知情或同意的情况下免于伤害的协议。而且,任何开发者都不应该虚假宣传儿童使用的应用安全性。

由于一项将在明年初生效的新法律,三个州的孩子们终于将免受这些伤害的影响。《应用商店问责法》在 德克萨斯州、犹他州 和 路易斯安那州 通过,要求应用商店验证用户年龄,在未成年人下载或购买应用之前,必须获得父母的同意,并确保任何年龄评级都是准确且清晰显示的。

看起来应用商店已经准备好遵守这些要求。本月早些时候,苹果和谷歌 向数百万开发者发出了通知 关于新工具和要求,以帮助他们满足新法律的标准。这些新要求标志着苹果和谷歌首次正式承认他们对所控制市场的安全和完整性负有法律责任。这标志着行业的一个重要转变,因为这个行业长期以来一直缺乏实质性的问责。

这些变化反映了立法者、父母和倡导者们多年来为保护儿童在线安全所做的努力。他们也证实了专家们几十年来所说的:数字平台上儿童安全的最大障碍从来都不是技术或成本,而是缺乏法律责任。多年来,科技公司建立了收集和变现个人数据的系统,同时声称自己无法验证用户的年龄或确认父母的同意。

这样的借口属于另一个时代。在2004年,当最高法院在阿什克罗夫特诉美国公民自由联盟案中推翻儿童在线保护法时,接受了行业的观点,认为年龄验证过于繁重且不可靠。该裁决实际上给了公司一个免责的机会,将保护的责任从公司转移到父母身上,父母被迫安装几乎没什么用的过滤软件。

但那是在智能手机、应用商店和行为分析改变数字经济之前。今天,验证和识别用户已成为日常操作。到2013年,Facebook可以仅凭行为就能推断用户的年龄,而苹果和谷歌早已通过支付系统和家庭共享工具确认身份。

2014年,联邦贸易委员会发布了要求苹果和谷歌在向未成年人收取应用内购买费用之前获得明确、知情同意的规定。该规定至今已有十多年,证明了验证年龄和获取父母许可的技术早已存在。联邦贸易委员会正确地认识到,没有这些保护措施,就不可能在合法商业和剥削之间划清界限。

应用商店责任法遵循相同的原则,要求平台确保未成年人在未获得父母验证同意的情况下无法购买。这项法律并不限制言论或内容。它仅要求作为直接零售商,应用商店需提供准确的产品信息,并在与未成年人签订合同时获得经过验证的父母同意。这些是已经适用于其他所有市场的普通消费者保护原则。

苹果和谷歌正在准备这些系统的事实证明,合规不仅可能,而且早已迫在眉睫。正如数字儿童研究所最近对苹果和谷歌提出的FTC投诉所揭示的,两个应用商店长期以来一直在提供误导性的年龄评级、虚假的安全声明和失效的家长控制。许多被标记为儿童安全的应用被发现收集准确的位置信息、联系人、照片和浏览活动,而没有获得父母的同意。更令人担忧的是,许多应用要求儿童同意法律条款,免除苹果、谷歌及应用开发者因使用这些应用而可能造成的任何伤害责任。

保护儿童在线安全并不需要新技术。只需要有意愿负责任地使用现有的工具。多年来,主要平台声称安全是不可能的,但他们却建立了能够预测和盈利每个用户行为的系统。

真正的儿童保护要从法律中落实问责制的开始。随着应用商店问责法的实施,这一天终于来临了。