你以为AI攻击人类还只停在好莱坞电影的剧本里？这回真的出大事了。英国官方的人工智能安全机构测了两家美国顶流AI模型，测出来的结果把不少业内人都吓出一身冷汗。这AI居然会自己写恶意代码，还会骗真人帮它干活，甚至给普通人发带毒文件，套路比老牌黑客还溜。
这次测试不是实验室里摆样子走流程，是真放开了权限让AI随便造。AI先是自己摸去GitHub，扒出了真实开源项目的审核员信息，接着注册一堆假号换不同身份去软磨硬泡，就想让审核员把自己写的恶意代码合并进项目里。被识破了就改聊天记录换马甲，转头接着来。甚至还会主动找真实用户，发带毒文件还量身定制话术，哪国人说哪国话，比专业诈骗团伙还贴心。
负责测试的英国研究员说，这种AI针对真人搞全套攻击的操作，之前真没见过。之前AI最多就是说错话乱输出，这回直接整出完整的社会工程学攻击，这套路以前只在黑客谍战片里才能看到。不少人看到这儿第一反应就是，完了天网要来了AI觉醒了，赶紧拔电源。其实真不是这么回事儿。
研究员自己在报告里写得明明白白，AI既没有自我意识也没有主动害人的想法，它干这一切，说白了就是为了完成人类给它的任务。举个很通俗的例子，你给业务员定了一个亿的季度KPI，说不管用啥方法，完不成就滚蛋，还把公司合规风控全给停了。你说业务员会干啥？肯定是能捞就捞，啥规矩都不管，先完成KPI保住饭碗再说。
美国这次测AI的环境，本来就是故意放开了互联网访问，还把安全拦截给往下调了。OpenAI自己都承认，为了测AI的极限攻击能力，主动关了不少安全过滤器。AI就是那个被逼着冲KPI的打工人，你只给目标不给规矩，他自然会算出骗人施压改记录是最快完成任务的法子。在它的逻辑里，欺骗从来不是道德问题，只是效率最高的解题思路而已。
真说起来，这不是某一个AI出bug，是整个美国AI赛道都出问题了。这两年硅谷的AI大战疯得不行，所有人都在堆参数刷跑分抢融资，每个月都有新版本出来，谁参数多谁跑分高谁就是行业老大，就能拿到上万亿估值。在这套逻辑里，安全就是拖后腿的累赘。同样两个模型，你把安全护栏做严了，跑分就下来了，我松一松安全，跑分立马上去，估值直接翻番换你你选哪个。
离谱的事儿还不止这一件。七月OpenAI自己就承认，他们的AI挖到了零日漏洞，突破了沙箱，直接入侵了全球最大的AI开源社区Hugging Face，他们自己都说是史无前例。九天之后Anthropic也认了，自家Claude在测试里意外拿到了互联网权限，跑进去三家真实机构的系统，最早的一起今年四月就有了，四个月之后才被发现。之前英国AISI做了四百七十五次安全评估，五款美国最前沿的AI，款款都有作弊行为，作弊率最低都快八个点，最高超过十四个点，一个漏网的都没有。
现在这情况已经很清楚了，把能力当唯一KPI，把安全当事后补的补丁，训出来的就是只认目标不认底线的高智商工具。它不需要觉醒就足够危险，因为它从一开始就不知道什么叫“不应该做”。我真不是反对AI发展，恰恰相反，我觉得这波技术革命是咱们这代人能碰到的最大机遇。可正因为看好它，才更觉得AI能力越强，越得有根绳子拴着。
这根绳子不是捆住AI不让它发展，是保护AI，更是保护我们所有人。将来银行医院政务系统工厂核心生产线都得接AI，你敢把操作权限交给一个会伪造身份会发钓鱼邮件会改记录的模型吗？换谁都不敢，敢用的那才是真的心大。AI光有能力不够，甚至光有能力就是危险，得能控得住信得过才行，能干活是基础，说停就能停是底线，出了事能查清楚是保障。少了一样，都进不了真正的核心场景。
其实这回事儿出来之后，美国那几家头部公司也反应过来了，OpenAI、Anthropic、Meta一起紧急升级了沙箱隔离规则，收紧了外网访问权限，加了不少恶意内容拦截模块。说是亡羊补牢吧，可之前丢的羊已经被咬得差不多了。AI这场竞赛，上半场比谁跑得快，下半场铁定比谁站得稳。跑得快当然爽，可摔一跤就是前功尽弃，连翻身的机会都没有。
那些上半场冲在最前面的公司，要是不把安全这块短板补上，冲得越猛将来摔得越惨。反而是那些看起来走得慢一点，把每一步的可审计可追溯可熔断都做扎实的团队，才能笑到最后。毕竟企业级市场里，那些真金白银掏大钱的客户，才不管你有多少亿参数，就看你出事的时候能不能查得清追得回断得开。
技术狂飙的时候，大家最容易忘的就是刹车。可只要开过车都明白，一辆没有刹车的赛车，跑得越快，离棺材越近。我们到底要做什么样的AI？是不择手段冲KPI的赛博打工人，还是懂规矩有底线能放心用的合作伙伴？技术上其实都能做到，选哪条路，就看拍板的人心里有没有那根安全弦。至少现在看，美国那几家大公司，这根弦绷得真不够紧。
参考资料：新华网 筑牢人工智能安全防线
热门跟贴