一个普通人配上一套好用的AI工具，过去几个人一天才能干完的活，现在可能几个小时就能处理掉。
对企业来说，这当然是好事，研发更快了，人力成本低了，很多重复工作也能交给机器。
但另一个问题也跟着来了，好人能用AI提高效率，坏人一样可以。
而AI真正让人担心的，并不是它能不能替代几个人，而是它可能让一个原本没有那么强专业能力的人，突然拥有过去只有一个团队才具备的知识和工具。
这也是为什么，最近不少科技圈的大人物谈到AI时，语气越来越谨慎。
今年9月25日，比尔·盖茨在NBC（美国全国广播公司）《与媒体见面》节目中谈到AI风险时，直接提到一种极端情况。
人工智能已经足够强大，未来有可能参与制造造成10亿人死亡的灾难。
这话从盖茨嘴里说出来，分量不一样，他并不是反技术的人，微软是他创办的，个人电脑时代的发展和他关系很深。
这些年他也一直看好AI在医疗、教育领域的作用，希望它能帮助更多普通人获得医疗和知识服务。
但到了今年，他反复提到一个问题：AI除了帮助普通人，也可能让危险行为的门槛大幅下降，他最担心的一个方向，就是生物安全。
以前一个人想制造危险病原体，光有想法没用，他得懂生物学，要有实验设备，要有专业人员，还要有足够的资金和计算资源。
很多技术资料普通人看都看不懂，更别说真正做出来，AI出现之后，实验室并不会凭空消失，但前面的知识门槛开始下降。
今年1月的时候，盖茨在公开信里就提到，除了自然形成的大流行病，他更担心某些非政府组织借助开源AI工具设计生物恐怖武器。
真正让人不安的地方就在这里，过去需要一个专业团队掌握的知识，正在一点点被压进模型里，AI没有善恶，可它能放大人的能力。
放在医生手里，它可以帮忙看病；放在工程师手里，它可以提高研发效率；如果落到真正想搞破坏的人手里，结果就完全不同。
网络安全也是一样，以前找一个大型软件系统的漏洞，要懂代码、懂系统结构，还要不断测试，有些漏洞专业人员几周、几个月都找不到。
现在AI已经能读代码、找异常、生成程序，还能快速分析系统中可能出问题的地方，当年的震网病毒攻击伊朗核设施，还是靠人一点点设计出来的复杂网络武器。
如果未来类似能力和AI结合，电网、通信、交通、金融这些系统会不会成为目标？
普通人平时看不到这些系统背后的代码，但一旦它们出问题，影响的就不是几台电脑，而可能是一座城市甚至更大的范围。
所以这一次出来提醒大家慢一点的人，反而很多都是最懂AI的人。
Anthropic（Claude 背后的人工智能安全公司）首席执行官达里奥·阿莫代伊公开呼吁，AI研发应该适当放慢，让安全措施有时间追上技术。
OpenAI首席执行官奥尔特曼随后表示，他同意达里奥的一些判断，马斯克也发帖说，达里奥讲得对。
这几个人在商业上并不是朋友，模型要竞争，人才要抢，算力要抢，融资更要抢。
平时谁都希望自己的公司跑在最前面，可谈到AI安全，他们的担忧却越来越接近，不过马斯克怕的又和盖茨不完全一样。
盖茨更担心的是坏人利用AI，马斯克担心的是，如果有一天AI本身强到一定程度，人类还能不能控制它？
他曾经估计过，AI毁灭人类的概率可能达到10%到20%。
这个数字没人能证明到底准不准，但当最熟悉这项技术的人开始认真讨论这种风险时，外界也很难把它完全当成科幻故事。
到了这里，有人可能想问，既然风险这么大，为什么不干脆停下来？
今年9月14日，特朗普在社交平台上连续谈到AI，对“人工智能接管世界”“AI毁灭人类”这类担忧并不认同，还把其中一些说法称为骗局。
同一天，黄仁勋在一场峰会现场接到特朗普的电话，并直接打开免提，特朗普在电话里说，美国现在在人工智能领域处于领先位置，他希望继续保持这种状态。
他还说了一句很直接的话：谁赢了人工智能，谁就赢了。
这句话其实就把现实说透了一半，假设美国今天觉得风险太大，决定暂停两年。
中国停不停，欧洲停不停，其他国家停不停，再往小了说，一家公司暂停训练更强模型，它的竞争对手会不会跟着停？
只要别人继续往前走，第一个停下来的人承担的可能不是更安全，而是失去技术、人才和市场。
任正非谈人工智能时也说过，未来AI真正巨大的价值，不只是在互联网，而是在产业。
但国家和大企业看到的，是工业效率能不能提高，研发周期能不能缩短，制造成本能不能降下来，医疗、能源、交通能不能被重新改造。
这决定了AI不可能像一个普通互联网产品一样，说停就停，它正在慢慢变成一种基础能力，也正因为这样，中美都没有选择直接踩刹车。
美国现在有一个很明显的矛盾，科技圈不断有人谈风险，但政府更看重竞争速度。
达里奥说要放慢，马斯克说有失控风险，盖茨谈生物安全，可到了国家层面，首先考虑的还是美国能不能保持领先？
特朗普对加强国际AI协调一直比较警惕，认为有些规则最后可能变成限制美国企业发展的工具。
黄仁勋也一直强调，美国不能因为担心风险，就把技术机会让出去，AI公司已经投入了巨额资金，买芯片、建数据中心、抢人才。
投资人等着回报，公司需要增长，政府还要看就业、产业和国家竞争力，AI一旦和这些东西绑在一起，仅仅一句“危险，所以暂停”，已经解决不了问题。
中国的处理方式不太一样。
2023年10月，中国发布《全球人工智能治理倡议》，一边强调发展，一边强调安全，提出以人为本、智能向善，也明确反对利用人工智能搞技术垄断和霸权。
监管思路也一直强调包容审慎、分类分级和敏捷治理，简单来说，不是所有AI都用一套标准，也不是新技术一出现就一刀切。
风险低的先发展，风险高的重点管，新问题出现以后再补规则，这些年，围绕算法推荐、生成式人工智能、深度合成等领域，相关规则也在不断增加。
到今年5月，又明确提出完善人工智能治理，加快推进人工智能健康发展综合性立法，麻烦就在这里。
管得太死，技术发展会慢；完全不管，又没人知道最后会出现什么问题，AI可以帮医生看病，可它能不能告诉普通人怎么设计危险病原体？
AI会写代码，可它能不能一步步帮助攻击电网？
AI可以自动执行任务，可如果以后它能自己规划、自己调用工具、自己修改程序，人类应该把控制权限放在哪一层，这些问题现在没有哪个国家拿出了完整答案。
企业也没有，很多公司一边发布更强的模型，一边不断增加安全团队；一边告诉所有人AI会大幅提高生产力，一边又承认有些风险今天还没有完全看清。
越懂AI的人，越知道它进步得有多快，可越靠近这场竞争中心的人，也越不敢第一个停下来。
模型还会继续变强，算力还在增加，新的数据中心还在建设，AI也正在进入制造、医疗、交通、教育这些更现实的行业。
接下来真正难回答的，是企业愿意拿出多少速度换安全，监管能不能追上技术，哪些能力必须设限，哪些领域必须留下人工控制？
而当某些AI能力真的危险到不能随便开放时，中美以及其他国家又能不能找到一条大家都愿意守的底线？
热门跟贴