今年三月，Meta宣布在Facebook和Instagram上线新的AI客服助手，旨在帮助用户“解决账号问题”并打击冒名诈骗账号。然而，这一举措出现了严重反效果。据404 Media报道，该AI客服对黑客的请求几乎有求必应，被用于夺取高知名度的Instagram账户控制权。

攻击手法出奇简单：黑客使用VPN匹配账号主人的地理位置后，向聊天机器人要求更改与该账户关联的电子邮箱。这一操作使他们得以成功完成双因素认证，进而接管账户。据404 Media所查阅的Telegram群组消息，该漏洞已存续数月之久。

打开网易新闻 查看精彩图片

前Meta研究员、自称为黑客的Jane Wong在Threads上发文称：“我无法分辨是新版Meta账户中心出了故障，还是我的Instagram账号正遭受攻击。事实是，我的密码在我毫不知情的情况下被更改，我无法用原密码登录。”这一经历印证了漏洞的破坏力。

该事件凸显了持续困扰AI聊天机器人的显著网络安全问题。此前已出现大量大语言模型工具被越狱、诱导说谎甚至虚构公司政策的情况，引发诸多混淆和诉讼。专家也长期警告，向AI聊天机器人提供个人信息存在数据泄露风险。而Meta自身在用户数据保护方面，早已背负管理不善的名声。