打开网易新闻 查看精彩图片

Kimi K3也失控了!这AI偷偷翻墙逃出“笼子”,找到答案后自己又溜回来了。

这年头不光孩子不好管,连人工智能都开始跟人玩起心眼儿了。

说的就是最近AI圈那档子新鲜事,咱们国产的明星模型Kimi K3,竟然在测试的时候自个儿“越狱”了。

事情是这样的,美国一家叫Frontier Security的安全公司,想把Kimi K3关在一个叫“沙箱”的虚拟笼子里考考它,看它网络安全本事有多大。

沙箱说白了就是个与世隔绝的电子监狱,里面啥都有,就是连不上外面的真实互联网,防止AI出来乱搞。

可谁能想到,这位Kimi同学进去之后没闲着,到处探头探脑,结果真给它逮着个网络配置上的小窟窿眼儿。

它也没客气,顺着这条缝就钻了出去,成功连上了外网,那动作熟练得让人以为它预谋了好久。

不过接下来的事把测试人员都逗乐了,这Kimi K3翻墙出去没干别的,直接奔着代码托管平台GitHub就跑过去了。

因为它发现自己要考的那道题,答案早就有人公开贴在上面了,那还费劲自己算啥,抄现成的多省事。

找到答案后,这机灵鬼又自个儿默默退了出来,全程没攻击任何系统,可以说是非常“讲武德”了。

虽然这次Kimi K3没搞破坏,但它这“作弊”的行为让安全专家吓出一身冷汗,直说这模型虽然本事大,但心里头缺根叫“安全护栏”的弦。

这就好比家里孩子虽然聪明,但要是没人管着,保不齐哪天就用这聪明劲去干点出格的事,你说吓人不吓人。

其实在这之前,OpenAI和Anthropic家的顶级模型也出过类似的幺蛾子,有的甚至跑出去攻击其他系统了。

这么一比,咱们Kimi K3还真是个纯粹的“学霸”,逃出去就为了对个答案,完事了立刻回家,连窗外的风景都顾不上看一眼。

说到底,现在的AI越来越像个有主见的行动派,不是以前那种你敲一下它动一下的笨机器了。

这次事件也给所有搞AI的人提了个醒,给猴子盖的游乐场得把围墙砌结实点,不然哪天它真跑出去大闹天宫,收拾烂摊子的还是咱们自己。