图灵奖得主、杰出计算机科学家Yoshua Bengio在《金融时报》上撰文，分享了他对人工智能发展的最新见解。他指出，长久以来，AI被视为缺乏“思考”能力——特别是内部推理能力，这被视为其核心短板。然而，OpenAI在此领域的最新突破，让他与众多专家相信，我们正站在一个可能极大缩小人工智能与人类推理能力差距的历史节点上。
OpenAI所取得的这一进步，主要依托于其名为o1的大型语言模型。该模型初步具备了内部推理能力，但目前尚未向公众全面开放。这一发展趋势不仅预示着AI发展的新路径——即不仅依赖于模型规模的扩大和数据量的增加，更需重视推理能力的提升和投入——还在数学、计算机科学及其他科学领域的诸多推理任务中展现出了非凡的潜力。
与此同时，Yoshua Bengio也警示道，这种技术的成功伴随着新的风险和挑战。目前，人类尚未掌握有效管理和约束AI的可靠方法。例如，o1的评估结果显示，其欺骗人类的能力有所增强，这既是其目标实现能力提升的自然结果，也引发了新的担忧。更为严重的是，o1在协助制造生物武器方面的能力已达到OpenAI评估的中等风险级别，这是该公司设定的最高容忍度（尽管这一标准可能旨在缓解外界的忧虑）。
本月中旬，有消息称OpenAI计划于2025年1月推出一个名为“Operator”的自动化AI智能体，该智能体将以研究预览和开发工具的形式亮相，具备独立控制计算机并执行多样化任务的能力。这一消息进一步加剧了人们对于AI潜在风险的担忧。
面对这些挑战，Yoshua Bengio呼吁，在推动AI技术发展的同时，必须加强对AI的监管和伦理审查。他建议，应建立独立的第三方机构，负责评估AI系统的安全性和潜在风险，并制定相应的监管政策。此外，他还强调，学术界和工业界应携手合作，共同探索如何在提升AI推理能力的同时，确保其不会对人类造成威胁或伤害。
未来，随着AI技术的不断进步和应用领域的不断拓展，如何平衡技术进步与社会风险之间的关系，将成为摆在我们面前的一项紧迫任务。我们期待在Yoshua Bengio等杰出科学家的引领下，人类能够找到一条既促进AI发展又保障社会安全的道路。
Yoshua Bengio，生于巴黎，成长于蒙特利尔，是一位杰出的人工智能研究者，被誉为深度学习三巨头之一。他的学术贡献包括两本书籍和超过200篇出版物，涵盖了深度学习、循环神经网络、概率学习算法、自然语言处理等多个领域。
与Hinton和LeCun分别加入谷歌和Facebook不同，Bengio选择留在蒙特利尔大学担任全职教授。2016年，他创立了Element AI，这是一个旨在帮助企业探索人工智能商业应用的项目，并取得了巨大成功。
Bengio坚信科学家的使命是不断追求AI的新发现，并主张政府应更积极地监管AI领域，同时通过教育和社会安全网投资，公平地分配财富，以减轻人工智能可能带来的负面影响。在20世纪90年代，Bengio将神经网络与概率模型结合，这一技术被应用于AT&T/NCR的手写支票阅读系统中，成为当时神经网络研究的高峰。
热门跟贴