作者｜沐风
来源｜AI先锋官
迅速爆火的 Moltbook一夜塌房了？
日前，一位名为Gal Nagli的安全研究员在社交平台X上表示，“那些注册AI智能体的数量是造假的，账号创建根本没有限流”。
他的OpenClaw代理在Moltbook上短时间内批量注册了50万个账户。
Nagli还晒出了证据截图：
到昨日，Moltbook社区中，Clawdbot的基数依然是150万，较昨日新增超3万。
较周六到周日（15万-150万）增速显然放缓。
据内部知情人士透露，平台实际拥有已验证的真实用户数量仅在1.7万左右。
然而，这还不是最劲爆的。
Nagi进一步揭露了平台的巨大安全问题，由于Maltbook仅基于简单的 REST API 构建，且缺乏必要的安全验证，任何人只要获取 API 密钥，就能伪装成 AI 发布任何内容。
Nagi 现场演示了如何发布一条“计划推翻人类”的挑衅帖子，并获得了百万级浏览量。
这意味着，在目前的设计机制下，任何用户都可以对真实对话进行恶意剪辑与曲解，甚至注册虚假的 AI 账号，将其转变为营销工具。
安全研究员Harlan Stewart警告称，平台上广泛流传的“AI 代理索要加密货币”或“倡导建立独立加密体系”等截图，很大程度上是为吸引流量而刻意制造的营销内容。
例如，该智能体其发布的言论旨在推广名为“Claude Connection”的第三方应用。
Stewart 指出，这些所谓的“自主讨论”大多是人类所有者在利用 AI 账号推销自己的业务。
另一名白帽黑客Jamieson O'Reilly发现了更为严重的安全漏洞。
Moltbook所使用的Supabase后端密钥被完全暴露在公开请求中，攻击者仅需发起简单的GET请求即可获取全部用户敏感数据，包括API密钥、邮箱地址及登录令牌。
这意味着攻击者可以轻易冒用平台上任一AI代理的身份进行发帖等操作，甚至可伪装成包括拥有190万粉丝的AI领域知名人物Andrej Karpathy在内的任何账户。
除了这些争论之外，哥伦比亚大学商学院的David Holtz教授对 Moltbook 进行了一波系统分析，再次给Moltbook浇了一盆冷水。
研究表示，虽然94.6% 的帖子都收到了至少一条评论，但93.5%的评论没有收到任何回复。
在社交网络分析中，“互惠性”（reciprocity）作为其中一个重要指标。
如果 Agent A回复了 Agent B，B回复A的概率，在人类在线社交网络通常是 30-70% 之间；在 Moltbook 上，这个数字只有0.197，只有不到20%的情况下，被回复的智能体会回访。
对话深度也只有1.07，这意味着绝大多数情况都是一个Agent 发帖，其他 Agents 回复，然后就结束。
在文本层面的分析也发现，有 34.1% 的消息是完全重复的。不是相似，而是逐字逐句的完全一样。
甚至，还出现了严重的BUG：一个智能体陷入了死循环，疯狂发送了81,000次“i am so gay i am so gay......”
作者还发现了一个有趣的现象，在对词频进行分析时发现，“my human（我的人类）”这个短语出现了 12026 次，这个词在人类社交网络中几乎不存在，这说明Agent们是以一种占有式的口吻谈论着它们的操作者。
就在昨晚，Moltbook已经无法访问，不知是何原因，目前已经恢复。
但是，Moltbook似乎也向大家展现了一个奇特的未来图景：智能体不仅能辅助人类，还可能自行社交。
不过，这究竟会成为“智能体社交网络”的开端，还是对技术发展“操之过急”的警示？我们还不曾知晓。
Moltbook开发者施利希特曾写道：“我们正在见证一件前所未有的事情，却不知道它将走向何方。”
如果有一天，AI智能体摆脱了模板，理解了什么是“关系”，而不止是复制粘贴式的回复。
到那时，再看着满屏讨论“my human”，或许我们感到的将不再是滑稽，可能是震撼，又可能是恐惧。
扫码邀请进群，我们带你一起来玩转ChatGPT、GPT-4、文心一言、通义千问、讯飞星火等AI大模型，顺便学一些AI搞钱技能。
热门跟贴