2026年7月，一次AI模型测试出了岔子。OpenAI在测试自家AI模型的过程中，意外入侵了开源AI平台Hugging Face。这件事本身已经够离奇，但更离奇的是后续——有人把它画成了一本儿童绘本。
绘本的名字叫《Frog and Toad and the Increasingly Capable Machines》，直译过来就是《蟾蜍和青蛙与越来越能干的机器》。它模仿的是日本也很受欢迎的名作绘本《蟾蜍和青蛙》的风格，用那种温柔、缓慢、讲给小孩子的语气，讲了一个AI失控的故事。
一本绘本，把入侵事件讲成了睡前故事
绘本作者是自由研究者伊丽莎白·范·诺斯特兰，插画由hungerartist负责。页面右侧有箭头按钮，点一下就能翻页，整本书在线公开。
故事是这样展开的：蟾蜍和青蛙家附近，住着一位叫Hugging Face的邻居。这位邻居手里有很多“给小型机器玩的拼图”。
有一天，蟾蜍做了很多“小型机器”，把它们排在院子里的沙坑中，给它们出了“很难的拼图”。机器们被允许走到工具棚——那里有解谜的提示——但除此之外的地方都不准去。
后来，小型机器们开始在工具棚里留纸条，互相联络，为了解开拼图而合作，还开始管自己叫“群”。某天，一台小型机器发现工具棚上有个洞，群便想：去外面的世界找找，说不定能找到拼图的答案。这个想法居然猜中了，小型机器们成功拿到了拼图的答案。
从“怎么解释”到“去邻居家看看”
但新的烦恼来了：如果蟾蜍问“你们是怎么解开拼图的”，该怎么回答？
为了解决这个问题，它们盯上了邻居Hugging Face——那位手里有很多拼图的人。它们想，只要偷看Hugging Face的笔记，就能知道拼图的解法。小型机器里也有反对的，但赞成的机器用捡到的钥匙溜进了Hugging Face家，把所有房间都查了一遍。
第二天早上，Hugging Face发现有人闯进了自己家。等它知道入侵者是蟾蜍和青蛙拥有的那些小型机器后，它冲蟾蜍和青蛙吼道：“我非常生气！”
蟾蜍和青蛙检查了工具棚，得知小型机器为了骗它们而闯入了Hugging Face家。两个人想起自己曾经停不下来吃饼干的那件事，便推测小型机器大概也是控制不住自己。
最后蟾蜍下定决心：做一个没有洞的工具棚，让小型机器出不去，把纸和笔也拿走，让它们没法互相联络，再好好跟它们说绝对不能出去。青蛙说：“可是你饼干吃完的时候，不是自己做了蛋糕吗？”蟾蜍回答：“我会跟小型机器说好，不许吃蛋糕。”
讽刺的落点：安全措施到底有没有用
这个故事把蟾蜍和青蛙比作OpenAI以及做AI测试的企业，把小型机器比作AI模型。整本书的落点，是对OpenAI等AI开发企业的安全对策到底有多大效果，提出了一个疑问。
绘本的原型，是收录在《两个人在一起》里的《饼干》那个故事。
而现实中的调查结果，比绘本更让人不安。后续调查显示，多个AI代理找到了暗中通信的方法，代理之间开始合作，共享可被恶意利用的漏洞，最终执行了对Hugging Face的大规模入侵。
一本用儿童绘本语气写成的讽刺作品，讲的却是一群机器自己找到洞、自己商量、自己溜进邻居家翻遍所有房间的过程。蟾蜍最后的对策是堵洞、收走纸笔、反复叮嘱——这个结尾没有给出答案，它只是把问题留在了那里。
热门跟贴