来源：AI寒武纪
老杨联合国最新演讲，核心观点：
开源：基础模型必须是自由和开源的，才能让全球都能参与，避免少数公司控制
分布式训练：训练过程应该在全球多个数据中心以协作和分布式的方式进行
未来AI的强大：未来的AI将具备推理、计划、和理解现实世界的能力，最终会匹配甚至超越人类智力
AI的积极影响：AI不仅能推动工业革命，更可能带来类似文艺复兴的启蒙时期
国际合作方向：收集文化材料并建立分布式AI超算中心，统一监管，避免阻碍开源AI发展
正文
人工智能的变革力量
人工智能将在未来几年和几十年内深刻地改变世界
简而言之，人工智能将放大人类的智能
人工智能正在加速科学和医学的进步
人工智能正在促进信息和知识的获取
人工智能正使更多的人更知情、更有创造力、更有效率
人工智能的普及
在未来的十年里，人工智能将变得无处不在
每个人都将随时拥有虚拟的AI助手团队
它们会像人类助手一样帮助我们实现各种目标
我们将通过可穿戴设备（如智能眼镜和智能手机）与它们互动
它们将以世界上每种语言提供对知识的便捷访问
人工智能将极大地提升生产力和人类创造力
它将帮助人口老龄化和减少的国家
它将加速科学和技术进步
它将帮助我们解决人类面临的一些最大问题，
例如气候变化、癌症治疗，
以及地方性或慢性疾病
人工智能的知识库
人工智能系统最终将构成所有人类知识的存储库
人工智能系统的产生分为两个阶段
一是训练基础模型
二是针对特定应用进行微调
如果我们希望基础模型对世界各地的每个人都可访问且有用，就必须用世界上所有的文化材料和所有语言对其进行训练
由于我们所有的数字内容最终都将通过人工智能系统来传递，
微调的系统需要数量众多、种类繁多，
以代表世界各地的所有文化和价值观
开放与合作
要实现这一目标，需要满足两个条件
第一，基础模型必须是自由和开源的
第二，训练必须以协作和分布式的方式在全球多个数据中心进行
政府和私营部门必须共同努力，确保存在支持人工智能发展的全球基础设施网络，
使世界各地的人们都能参与到共同资源的创建中
开放源代码的必然性
人工智能的未来必然是自由和开源的基础模型占主导地位
历史表明，基础设施软件平台最终总是会开源
例如，
互联网和移动通信网络的软件基础设施完全是开源的
世界各地的许多政府都无法接受其公民的数字内容被少数公司控制
Meta的贡献
Meta在生产和分发自由和开源的基础模型（如Llama系列）方面发挥了主导作用
Llama推动了世界各地整个人工智能产业的兴起
自2023年中以来，它已被下载了6.5亿次
全球已发布了85,000个从Llama衍生出来的开源模型，
全部开源
越来越多的公司（无论大小）以及政府机构、非营利组织等，通过微调Llama基础模型来构建定制产品和服务
应用领域包括农业和食品生产、
教育、医疗保健、制造业、环境保护等。
由于Llama和其他类似模型的开源性质，我们观察到学术实验室、独立开发者、初创公司和大型公司的贡献推动了进步的加速
人工智能安全
关于安全问题。
人工智能应用当然必须安全部署
基础模型必须经过严格的测试和红队演练
但从历史上看，开源平台比专有平台更安全
关于由于人工智能系统的可用性而导致人工智能生成的虚假信息泛滥的预测显然被夸大了
没有证据表明当前形式的人工智能会带来任何生存风险，甚至比传统技术（如搜索引擎和教科书）带来的威胁也没有明显增加
当前的人工智能技术非常专注于文本和语言，
而不是现实世界
这限制了它目前的适用性
当前的人工智能系统不了解现实世界，
没有持久的记忆，也无法真正推理和计划
它们无法像人类甚至动物一样快速有效地学习新技能
人工智能的未来发展
但是人工智能将在未来十年取得显著进展
毫无疑问，在未来的某个时候，人工智能系统将匹配并超越人类的智力能力
它们将与当前的人工智能系统截然不同，它们将能够理解物理世界，能够记忆、推理和计划。
它们可能具有一定程度的常识。
这不会发生在明天，可能在未来一二十年内发生
那些超级智能系统将按照我们的意愿行事，并保持在控制之下
它们将完成我们给它们的任务，并受制于安全防护措施
防护措施将像不可侵犯的法律塑造人类行为一样塑造它们的行为
人工智能的影响
人们常说人工智能正在推动下一场工业革命。
我认为人工智能对社会的影响可能更类似于印刷术的发明以及通过印刷材料广泛传播知识
通过放大人类智能，
人工智能不仅可能带来一场新的工业革命，还可能带来一场新的文艺复兴，人类的一个新的启蒙时期
通过这种方式，
人工智能可以通过加速知识的传播和推动全球经济增长，为维护国际和平与安全做出贡献，
而这正是联合国安全理事会的重大使命
国际合作的必要性
与互联网一样，国际合作应侧重于两项举措
一是收集文化材料，
在世界多个地区提供以人工智能为重点的超级计算机，
并为自由开放的通用基础模型的分布式训练建立一个适度的上限
二是统一监管格局，使开源基础模型的开发和部署不受阻碍
非常感谢大家的关注
阅读报告全文，请访问欧米伽研究所的“未来知识库”
https://wx.zsxq.com/group/454854145828
未来知识库是“ 欧米伽 未来研究所”建立的在线知识库平台，收藏的资料范围包括人工智能、脑科学、互联网、超级智能，数智大脑、能源、军事、经济、人类风险等等领域的前沿进展与未来趋势。目前拥有超过8000篇重要资料。每周更新不少于100篇世界范围最新研究资料。 欢迎扫描二维码或访问https://wx.zsxq.com/group/454854145828进入。
截止到11月25日 ”未来知识库”精选的100部前沿科技趋势报告
热门跟贴