要闻背景简述
6月20日，前OpenAI首席科学家Ilya Sutskever在社交平台X上正式宣布创办新公司，名叫“Safe Super intelligence”（安全超级智能），简称SSI。
据介绍，SSI公司的目标是创造一个安全的超级智能，其业务重点、目标和产品均围绕这一核心议题展开，在达到这一目标之前，公司不会涉猎其他业务。
Ilya曾经在一次采访中提到超级智能，他认为那是比通用人工智能AGI更强大的人工智能，因此更需要保障安全性，避免对人类造成巨大伤害。
Ilya Sutskever是OpenAI的联合创始人之一，曾任首席科学家，在人工智能领域有着举足轻重的影响力。他曾在OpenAI推动多项重大项目，包括GPT模型的开发，对OpenAI乃至整个人工智能领域的发展作出了重要贡献。
除了Ilya之外，SSI的创始团队还有多位在人工智能领域有着丰富经验的专家，比如前OpenAI员工Daniel Levy、苹果前AI负责人Daniel Gross等等。
那么，我们应该如何看待Ilya提到的超级智能呢？
以下是王煜全要闻评论：
最近人工智能领域里面有个大新闻。就是原来OpenAI的首席科学家Ilya Sutskever出来创业了。他也是人工智能之父Geoffrey Hintton的博士生，他出来创业做的公司叫做safe super intelligence安全的超级智能公司，声称要解决人工智能的安全问题。
为什么Ilya现在出来创业要做这么一个公司呢？这和他的理念是相关的。
前一段我看了一个采访Geoffrey Hintton的视频，Geoffrey Hintton提到，Ilya是他的学生的时候，他们就有一个观念是不太一致的。Hintton认为人工智能的发展需要在很多的模型、结构、框架上都有不断地突破才行。但是Ilya在当时就预见到大力出奇迹就能解决问题，模型结构没有问题，只需要把运算量加大就够了。我觉得这是很了不起的。
Hintton在今天坦率承认当初是自己错了，Ilya是对的。所以你就知道，大模型大力出奇迹这件事，包括为什么GPT出现在OpenAI，其实和Ilya有很大的关系。因为他是主张上规模的，认为规模就带来一切，量变带来质变，规模带来涌现，这是Ilya的思路。
那现在下一个问题又来了，就是规模会不会持续无上限的增长，以后会不会带来更多的涌现？今天涌现已经出现了，那未来会不会提升到更高的级别？就像Ilya讲的超级智能。
从理论上讲，超级智能是一定会出现的。但是有两个路线，一个是过去的提法叫做AGI通用智能，就是像人一样能什么事都能干的智能。另一个叫做超级智能，比人还强的智能。
但是注意，我们认为这个超级智能不是事事都比人强，而是在某些事上比人强，或者在一个特定事上比人强，某个领域比人强。
我们认为某个领域内的智能的提升是未来人工智能的一个发展重点，叫做领域智能domain intelligence。
比如自动驾驶，就是一种视觉智能。还有前一段OpenAI发布的GPT-4o，强调在语音语义互动的时候，既能理解你表达的含义，又能理解你说话背后的情绪，还能在回答时作出相应的情绪调整。
所以我们叫domain intelligence领域智能，一个一个的领域会出现领域智能。那么某个领域的智能出现以后，就会衍生这个领域里的super intelligence。因为人工智能在一个领域训练多了以后，一定会在这个领域超越所有的最好的人类。Alphago就等于是围棋的领域智能，它已经超越所有人类了。
所以这是Ilya所担心的地方，就是他认为大力出奇迹还会延续，而且会很快到来，甚至人工智能会对人类智能形成碾压，这种时候安全就非常重要了。
但实际上，我认为他还是有点杞人忧天了。因为一个领域的碾压对人其实形不成整体的威胁，人的综合调用能力很重要。我们强调，人工智能真要对人形成威胁，就要把领域智能串起来，形成社会智能。
也就是说，人工智能不再是一个独立个体，而是一个群体，能够做出群体决策，能够群体行动。到时候，每个人工智能个体都有领域智能优势，而群体智能就会在群体角度战胜人类，那时候我们就非常非常值得担心了。
值得注意的是，今天群体智能可以说有了苗头，为什么呢？
至少人工智能找到了他们相互对话的共同语言，叫做token。他们用token来对话，不像我们用语言对话。人类语言还有差异，中文、英文还不一样。所有人工智能都是用token的，不管是什么语言，中文、外文都是用token。
但是他们的社会化行为还非常非常少，社会化的智能体和社会化的群体智能这方面也还比较初级。
所以简单说，我认为Ilya是对的，会出现超级智能，但是我认为超级智能会在专门领域内出现，是领域智能。
而超级智能在所有领域都碾压人类，甚至从整体上会不会出现高于人类的思维，这件事有可能未来会出现，但是现在还早，因为这方面研究还没有太多的进展。
这个Ilya非常的前瞻，当然也有他自己的以前的成功的影子，成功的人总是会习惯用自己的模式去复制，他还是坚信大力出奇迹的。另一方面来讲，人工智能现在基本上还在继续性能调优，而没有进入到通用智能阶段。
但是我认为这依然值得我们中国的企业家来学习。因为只有看到未来的大威胁、大机会，才能够未雨绸缪，才能够提前布局，才能够把握住未来的真正的大场景、大格局。
想想看，今天我们都知道英伟达市值达到3万多亿美金，那原因就是黄仁勋是在很多年以前就提前布局，而且下了大力气去对未来下注。
看清未来、提前下注其实是成功的必要手段，不管Ilya这回的下注正确与否，他都是一个敢于下注的人，值得我们学习。
当然，我们也希望能够下注下得更准确一些。这不光需要了解技术本身，还要懂产业、懂社会、懂应用。我们有全面地理解，才能对未来产生更清晰的认知。
如果你真的希望了解科技如何改变社会的规律，了解下一个巨大的机会在哪，欢迎你加入我们的科技特训营，因为科技特训营就是用系统的认知，帮助大家对未来产生超前的理解。
另外，因业务发展需求，创新地图希望在北京招聘两名新媒体主笔，如果你有相关经验，而且对最新的科技趋势感兴趣，欢迎把简历发送到我们的邮箱：talent@innovationmap.cn。
以上就是今天的内容，更多详细的产业分析和底层逻辑，我会在科技特训营里分享，欢迎关注全球风口微信号，报名加入。
王煜全要闻评论，我们明天见。
我们还整理了一份“fast company：从OpenAI离职的11个关键人物”清单，请你扫描下方二维码加入微信群，你就会获得这份清单。
清单每天更新，所以请跟上全球风口的节奏；如果想要所有行业清单，扫码加入科技特训营，分分钟尽在掌握！
【科技特训营】全新的会员订阅制线上书院模式，全年50次“在线直播课程+私享群互动”，你随时可以加入、我持续保持更新！一起互动，伴随成长！让我们为未来五年做好准备，一起探讨把握机遇，决胜未来！
【回放地址】
【哨科技特训营第四季】
1. 前哨科技特训营直播课程第四季（2024年）共50讲+，除此之外还有5节加餐+公开课。
2. 每讲承诺为1小时视频内容，实际平均时长为2小时。
3. 每周四晚八点准时直播，会员在一年学习期内可无限次观看回放。
4. 新入会员，在一年学习期内可以无限次回看之前所有视频课程。
5. 优先获取全球科技产业一线游学、访问机会，接触科技/产业专家，获取最新、最前沿的趋势洞察，人脉链接
6. 本课程为虚拟内容服务，年费订阅服务制。一经订阅概不退款，线下活动需另行支付差旅成本，请您理解。
热门跟贴