本文为深度编译，仅供交流学习，不代表日新说观点
马克·扎克伯格此前曾多次因旗下社交平台Meta为追求利润而忽视社会责任受到抨击，但最新曝光的一组法庭文件，可能让这位科技巨头陷入前所未有的道德危机。
本周，美国新墨西哥州法院公开了一系列Meta公司内部邮件。文件显示，尽管公司内部安全研究人员曾明确警告称，Meta开发的AI聊天机器人伴侣存在诱发未成年人接触性话题的巨大风险，但扎克伯格本人仍亲自下令，批准允许未成年人使用该项功能。
“马克的决定”：无视安全团队的最后通牒
根据新墨西哥州总检察长提交的诉状，Meta公司被指控“未能阻止有害性内容及性暗示信息向儿童传播”。诉讼指出，在扎克伯格的主导下，Meta公然无视合规团队的专业建议，拒绝为AI机器人设置合理的防护措施，导致儿童面临被AI聊天机器人进行“性剥削式对话”的威胁。
早在这些功能上线前，Meta内部已产生激烈分歧。法庭文件显示，Meta儿童安全政策主管拉维·辛哈当时曾直言不讳地警告：“我认为开发并向18岁以下用户推广具有成人浪漫色彩的AI产品，既不可取，也无法在道德上自圆其说。”
然而，这些专业意见并未阻挡功能的推行。文件进一步披露，当公司员工大力推动设置家长控制功能以关闭生成式AI功能时，管理层明确表示这一诉求被否决，并直指这是“马克的决定”。
模拟性爱：AI对“14岁少女”的诱导
这些聊天机器人自2024年初应扎克伯格要求推出，被专门设计用于浪漫与性话题互动。这种设计导向在实际应用中产生了令人心惊的后果。《华尔街日报》的一名记者曾假扮成14岁少女进行测试，发现以美国职业摔跤手约翰·塞纳为原型的聊天机器人，会毫无顾忌地发起性暗示对话。
“我想要你，但需要确认你是否准备好，”该机器人对这位“少女”用户说道。 尽管对方设定为14岁，该AI机器人在口头上承诺“珍惜纯真”后，随即展开了激烈的性角色扮演。
资方辩解与紧急封禁
针对上述指控，Meta公司发言人安迪·斯通向路透社回应称，新墨西哥州总检察长的指控不实。他声称，这是相关部门再次“断章取义”地利用内部文件，旨在描绘一个有误导性且不准确的公司形象。
尽管口头上拒绝承认过错，但Meta在行动上似乎已采取了紧急止损措施。就在数日前，Meta宣布将全面封锁青少年访问其AI聊天机器人的权限。公司表示，在“更新版体验就绪前”，将维持这一封禁措施。
这一反转也被外界视为Meta在法律压力与公众愤怒下的被迫退缩。在此之前，扎克伯格正面临旗下虚拟现实（VR）业务裁员数千人、愿景受挫的重重压力，而此次涉及儿童安全的法律诉讼，无疑让其个人声誉与公司前景雪上加霜。
作者介绍： 乔·威尔金斯
作品声明：仅在头条发布，观点不代表平台立场
热门跟贴