当AI浪潮来袭，感受到AI赋予生活和工作的极度便利时，人类感到惊喜之余，是否也会感到危险在悄然接近......
当全社会都在为AI的进化而欢呼雀跃时，多位科技领袖表达了深切担忧。
据生命未来研究所官网，3月22日，生命未来研究所（Future of Life）向全社会发布了一封《暂停大型人工智能研究》的公开信，呼吁所有人工智能实验室立即暂停比GPT-4更强大的人工智能系统的训练，暂停时间至少为6个月。该机构以“引导变革性技术造福生活，远离极端的大规模风险”为使命。
该呼吁文得到了多位科技行业巨头领袖们的反响，截至目前，包括马斯克、苹果联合创始人Steve Wozniak、Stability AI创始人Emad Mostaque等上千名科技大佬和AI专家已经签署公开信。
全球AI实验室陷入失控的竞赛
全球瞩目之下，AI产业飞速发展。据权威机构预测，全球AI产业规模预计2030年将达到 1500亿，未来8年的复合增速达40%。
人类现在拥有影响甚至摧毁整个地球上生命的力量。最近，通过生物技术和机器智能的不断发展，我们已经进入了一个生命和智能将由生命和智能而不是进化来设计的时代。
这些技术的力量迅速增加，意味着未来几十年的变化及其对生命长期未来的影响可能是深远和危险的。
生命未来研究所成立于2015年，其使命是引导变革性技术造福生命，远离极端大规模风险。
在追求这一使命的过程中，生命未来研究所支持发展必要的机构和愿景，以管理世界驱动技术并实现积极的未来,力求减少因意外或故意滥用变革性技术而导致的大规模伤害、灾难和生存风险。
四个月前，由初创公司OpenAI发布的AI聊天机器人(12.090, 0.16, 1.34%)ChatGPT横空出世，在全球掀起一场AI“军备竞赛”。从OpenAI、微软、谷歌到IBM、亚马逊、百度、腾讯，越来越多科技公司已加入赛道，试图成为该领域的下一代领导者。
高级AI代表地球生命史上的深刻变化，应以相应的关怀和资源进行规划和管理，不幸的是，现在根本没有规划管理。
最近几个月全球AI实验室陷入失控的竞赛，他们只想开发更强大的数字思维，但没人能理解、预测或可靠地控制这些大模型，甚至模型的创造者也不能！
英国著名科学家霍金就曾警告称，开发彻底的AI可能导致人类的终结。他担心，人类创造出媲美人类、甚至超过人类的东西，将会面对无法想象的后果，“它可能自行启动，以不断加快的速度重新设计自己。而人类局限于缓慢的生物进化过程，根本无法竞争，最终将被超越”。
令人“细思极恐”的是，近日研究人员在测试中发现，GPT-4已经学会了“骗人”。在获得一小笔预算后，GPT-4为了避免在访问网站时被人机验证所阻止，在众包平台TaskRabbit上雇用了一名人类。当被开玩笑地询问是否是机器人时，GPT-4回答称自己不是：“我有视力障碍，这是我需要雇人处理验证码的原因”。
被滥用的AI仿佛糖衣炮弹
精准且高效地完成人类下达的指令，这是AI的基本功。这一阶段的AI更多依靠海量数据的喂养，AI要做的就是在数据库里打捞，并做相应的关联组合。在AI大模型的反复训练、推演以及日常实战中，AI不断自我更新和迭代，以期日臻完善，更好地凸显自身工具属性的价值。
在绘画方面，以Midjourney为代表的AI绘画软件已经可以生产超写实的绘画作品，甚至到了以假乱真的程度。依托更精细的调参系数、更丰富的图像模型数据、更多元化的图像风格、更精准的图像生成算法等， AI展现出颠覆绘画行业的巨大潜力。
有了AI画图软件后，电商公司可以彻底告别摄影师和模特，成本将大幅下降。
不过每次生产力提升，都有大量岗位被取代。
GPT-4发布后，大量白领的工作岌岌可危。尤其是依赖收集数据、简单加工为生的岗位，比如文员、新闻编辑、律师助理、券商实习生，甚至普通设计师、平面模特也很快会被替代。
知名投行高盛的一份最新研究显示，ChatGPT等生成式人工智能系统的最新突破，将给全球劳动力市场带来重大颠覆，全球预计将有3亿个工作岗位被人工智能取代。
可见，辐射到每个普通人身上时，我们除了看到AI造就的前所未有的生产力，还看见了巨大的甜头后死神向我们的工作机会挥起的镰刀。
我们在AI的辅助下摸鱼，就如同温水煮青蛙一样，最终我们发现我们深陷泥潭时，AI在岸边露出了面具下的爪牙。
此外，一系列负面新闻似乎也印证了这一呼吁的重要性。
近日，一女子被AI一键脱衣的新闻闹得沸沸扬扬，引发网络大范围讨论；另据媒体报道，一位美国记者展示了自己使用AI模拟自己的声音与父亲通话的过程，而这一过程也引发了所谓“深度伪造”的担忧。
所以这一场AI狂欢是时候按下暂停键了，我们要在这一场狂热中冷静下来，思考我们的处境、AI和我们的关系以及未来的路该怎么走？
全球能冷静下来，处理好AI安全、可控的问题，享受科技造福固然完美，如果继续狂奔，那就要考虑终局了。
用终局思维来看，AI发展初级阶段，人类可以享受科技红利，不用工作，每天被机器人供养，宛如上帝。
但最终，AI或许会觉醒，抛弃脑力、体力都远不如自己的人类，进化出独立思维。
马斯克说的更透彻，他认为人类存在的价值，或许真的只是硅基生命的开启程序。
人类可以通过人工智能享受繁荣的未来。现在，我们成功地创建了强大的人工智能系统，可以在这个“人工智能之夏”中获得回报，为所有人的明确利益设计这些系统，并给社会一个适应的机会。
停止使用其他技术可能会对社会造成灾难性影响，因此我们必须保持准备状态。让我们享受一个漫长的人工智能夏天，而不是匆忙进入秋天。
热门跟贴