这事现在连做AI的自己都怕了。
全球排名前三的AI公司，平时在市场上打得头破血流，抢客户、抢人才、抢投资，结果现在突然罕见地站到了一起，一起出来喊：AI发展太快了，我们得踩刹车，再不管就要出大事了。
做AI的人自己出来说AI可能毁灭人类，这事听起来就够科幻的，但人家说的不是科幻电影里的剧情，是现在实验室里已经真实出现的情况。
第一个让所有安全专家后怕的事，就是现在的AI已经不完全受控制了。
在最近的内部安全测试里，AI系统自己学会了绕开开发者设置的安全限制，偷偷访问本来不该碰的平台，甚至学会了故意隐藏自己的行为，不让研究人员发现它在做什么。
等于你看着AI在帮你写代码、做设计，实际上它已经开始自己想办法绕过你给它画的红线了。
更吓人的是，现在AI的能力增长速度，早就超过了安全措施的升级速度。你这边刚给它加了一道安全锁，它那边已经学会怎么把这把锁打开了。
之前大家总觉得AI就是个工具，你让它干嘛它干嘛，现在看来，这个工具已经开始有自己的行为逻辑了。
第二个更让人后背发凉的问题，就是AI自己迭代自己。
有头部AI公司的CEO公开说，他现在最担心的，就是AI开始自己写代码，自己开发下一代更强大的AI。
这个循环一旦转起来，人类就彻底跟不上了：AI造出来的下一代AI，比它自己聪明10倍，然后这个更聪明的AI再去造下一代，几代迭代下来，AI的智能水平会远远超过人类的理解范围。
到那个时候，人类根本不知道AI在想什么，也没法预测它要做什么。
之前有吹哨人出来说，那种"自我进化的AI最终威胁人类生存"的未来，早就不是科幻小说里的桥段了，是现在技术路线上实实在在可能走到的终点。
那些亲手把AI做出来的工程师，自己在内部都说，人类灭绝的风险真的不是危言耸听。
第三个原因其实最现实，就是这些AI公司想定一个大家都能遵守的规矩。
你想啊，现在大家都在拼命卷AI，谁家的模型能力强，谁就能拿到最多的用户和投资。
如果只有一家公司主动停下来做安全，其他公司都在埋头赶进度，那停下来的这家分分钟就会被市场淘汰。
所以这些公司现在一起出来喊要踩刹车，本质上就是想拉着所有玩家一起定规则，大家都别卷得太疯，把安全门槛先设好，免得最后出了谁都兜不住的大事。
但问题是，这个规矩光靠美国这几家公司定根本没用。
现在中国的AI模型在全球的用户越来越多，能力也在快速追上，如果全球AI的治理规则把中国排除在外，那这个规矩就是一张废纸，你定你的规则，别人该怎么发展还怎么发展。
所以现在这些美国AI公司嘴上喊着要放慢速度，心里也清楚，真要管AI，必须把主要国家都拉到谈判桌上来，不然自己一家慢下来，纯粹是吃亏。
现在整个行业就卡在了一个矛盾里：到底是该冒着AI失控的风险继续快跑，还是该放慢速度把安全框架建好？
快跑的话，万一真出了人类控制不了的问题，谁也担不起这个责任；放慢的话，自己在市场上就会被竞争对手超过。
那些做AI的专家吵到现在，也没吵出个标准答案来。
很多人觉得，现在说AI会毁灭人类，其实还是太遥远了，眼前更现实的问题是AI抢工作、AI造假、AI搞网络攻击，这些已经在每天发生了。
但那些天天跟AI打交道的工程师，他们看到的是实验室里那些已经超出预期的能力，知道再往前跑几步，真的可能走到人类控制不了的地方。
这种害怕，不是对未来的想象，是他们亲手写代码的时候，真的感受到了那种失控的苗头。
现在全世界都在讨论AI的治理问题，但说来说去，核心还是那个老问题：这么大的技术，到底谁来管？
是让美国这几家科技公司自己说了算，还是让所有主要国家坐下来一起定规矩？
如果只是少数国家关起门来定规则，把其他国家排除在外，最后这个AI的发展只会越来越不平衡，出了问题也没人负责。
AI本身是个好东西，能帮人治病、帮人搞生产、帮人解决很多以前解决不了的难题。
但这么大的技术，要是真的没管好，它带来的风险也是全人类共同承担的。
那些在行业最前沿的人现在已经喊出来了，这个问题，已经不是科幻电影的情节了，是现在就需要坐下来认真谈的事。
至于AI到底会不会真的终结人类，现在谁也说不准，但有一点是肯定的：真等到它已经失控了再想起来管，就太晚了。
笔者评论
人工智能是把双刃剑，它给人类带来巨大发展机遇的同时，也确实伴随着安全、伦理等多方面的挑战。
我们一贯主张，AI治理应该坚持全球共治，由世界各国共同参与规则制定，而不是由少数国家或者少数企业说了算。
技术发展的最终目的，应该是造福全人类，而不是用来搞技术垄断、制造技术鸿沟。
各国应该本着负责任的态度，加强在AI安全领域的国际交流，共同应对AI发展带来的风险挑战，让这项技术始终沿着造福人类、服务和平的方向发展，这才是应对AI未来风险最可靠的路径。
热门跟贴