深夜，手机屏幕突然亮起，一条来自Meta监护工具的通知打破了寂静：“我们检测到您的孩子在与Meta AI的对话中可能涉及自我伤害的风险，建议您及时关注。”这样的场景对于许多父母来说，或许并不遥远——就在近期，Meta正式宣布，家长可以选择接收这类警报，当子女在Instagram、Facebook或Meta Horizons平台与人工智能助手提及自杀或自残倾向时，系统会主动向已绑定监护关系的家长发送通知。
这项功能被定位为现有安全措施的补充。Meta明确表示，家庭成员需要先自行启用家长与监护人监管工具，并选择需要监督的账户，警报机制才能生效。在此之前，当青少年向Meta AI吐露自己可能正在考虑自杀或自残时，人工智能助手已经会引导他们联系危机干预热线，并鼓励他们向父母、咨询师等可信任的成年人求助。而现在，系统多走了一步：借助与心理健康专家共同开发的语言信号模型，一旦AI聊天内容被评估为存在风险，平台将主动提醒有监督权限的家长。Meta还准备了来自专业机构的资源，帮助家长以更恰当的方式与孩子展开这类艰难对话。
按照Meta的描述，这套风险识别机制力求捕捉那些相对隐晦的表达，而非仅仅锁定直白的求救语句。这背后是一套复杂的信号体系，试图理解青少年可能如何在对话中迂回地透露绝望或自伤意念。但为了让每一次判断都更加可靠，Meta引入了一个关键保险：所有被AI标记出来的聊天记录，在将警报发送给家长之前，都会先经过人工审核。如果有青少年的意图处于模糊地带，公司会采取谨慎原则，宁可多报也不会漏报。这也就意味着，家长有时可能会收到似乎并无必要的提醒，但Meta认为，在保护生命的起点上，这样的过度警惕是值得的。
具体操作的门槛并不高，家长只需在已有账户中完成家庭监管的设置——如果此前从未启用过的话。目前，这项新功能首批在美国、加拿大、英国和澳大利亚四国落地。对于身处这些地区的家庭来说，这为数字时代的亲子监护增添了一个压力重重却也充满善意的选项。Meta承认，看到这样的警报可能会给收件人带来极大的心理冲击，因此他们正在一边持续改善检测模型，一边监控整个机制的合理性与敏感性。
同样的主动干预思路也在更多场景中延伸。早在推出这项针对AI聊天的家长提醒之前，Meta已经建立起一套面向公开帖文的紧急响应机制：只要在Facebook或Instagram上发现表明存在可靠自杀风险的帖子，公司就会立即通知紧急服务部门。仅过去一年，这个机制便在全球催生了超过19000次转介，协助急救人员对有自杀风险的人进行了安全复查。Meta现在计划将这套做法扩展到Meta AI对话场景——无论是青少年还是成年人，只要人工智能判断对话内容暗示当事人可能处于即将采取自伤行为的紧迫危险中，系统就会主动联系紧急服务。
在一份声明中，Meta这样解释其策略：“如果有人与Meta AI的对话显示其可能面临即刻的自杀风险，我们正在构建联络紧急服务的能力。这基于我们在Facebook和Instagram上已有的工作：当我们意识到某条帖子呈现出可信的自杀风险时，我们就会向紧急机构报警。”这种将AI对话视为安全信号的延伸，让原本只在公开帖文领域运作的生命拯救网络，开始覆盖一对一、更私密的聊天空间。而开发警报功能时所使用的专家合作信号、人工复核流程，以及宁可误报的设计立场，也都直接呼应了将伤害预防推到更早时间点的意图。
对家庭而言，设置路径的起点依然是Meta的家庭监督工具。无论是希望监控孩子在Instagram上与AI的交流，还是关注其在Facebook或Meta Horizons上的行为，都需要先在家长端开启监护选项，再选择绑定家中青少年的账户。一旦设置完成，当系统评估出风险并经过人工确认后，这位被绑定的家长便会同步收到警报，以及如何与孩子沟通的专家建议。Meta反复强调，这些建议旨在帮助家长而非替代专业心理干预——紧急资源信息同样会被嵌入通知，鼓励父母引导孩子联系热线，或者在必要时直接求助急救系统。
对于正在经历心理困境的人，Meta同时重申了已有的即时援助通道：在美国，任何人可以拨打或发送短信至988自杀和危机生命热线，也可以通过该热线的官方网站进行在线咨询；如果情况紧急，则可拨打911或前往急诊室请求心理健康危机的紧急救助。这些援助渠道独立于AI的判断，对所有需要者保持敞开。
热门跟贴