金融与经济 | 巴顿伍德
评估失控的超级智能所带来的威胁，绝非易事。
如今，人工智能领域的重大议题，比以往任何时候都更能左右金融市场的涨跌。一方面是看好人工智能的拥趸，他们认为人工智能将带来变革与丰厚利润；另一方面则是怀疑论者，他们质疑人工智能承诺的回报能否实现。双方针锋相对，互不相让。
然而，投资者现在开始关注第三种担忧：如果人工智能系统真如乐观者所预测的那样强大，但同时又极其危险呢？人们越来越担心“失控”的人工智能会入侵其他系统、助长欺诈或误导人类工程师。前沿人工智能实验室的研究人员甚至担忧，他们的工具可能被流氓国家或恐怖组织用于制造生物武器。一些人认为，这些模型甚至可能导致人类灭绝，这将使任何未来的上市计划都黯然失色。毕竟，很难为一个最终以失败告终的首次公开募股而欢呼。
经济学家泰勒·科恩希望那些危言耸听者能拿出真凭实据。许多人押注灾难即将发生。如果他们是对的，那么在灾难真正到来之前，市场就应该开始显现末日预兆。因此，这些科技恐惧症患者可以通过金融交易来验证他们的理论。如果成功，这将大大增加他们预言的可信度，而灾难最终也会证明他们的预言是正确的。这种要求理性问责的呼声可以理解。科恩先生的同事亚历克斯·塔巴罗克曾将这种赌注称为“对胡说八道征税”。但在涉及高级人工智能的危险性时，这种赌注却难以实现。
人工智能强大所带来的一些较轻微的负面影响，已被市场消化。例如，对人工智能赋能的黑客攻击的担忧，推高了网络安全公司（如 CrowdStrike）的估值。该公司股价在过去六个月里翻了一番多，目前市盈率接近未来12个月预期收益的200倍。对某些公司而言，恐惧而非贪婪，反而是好事。
对于那些更具冒险精神的投资者来说，其他一些未经检验的策略或许可行。如果网络安全公司的股价溢价交易，那么最容易遭受黑客攻击和欺诈的公司股价理应折价交易。在私营部门，医疗保健、金融、电信和交通运输行业往往是攻击目标。中小企业比大型竞争对手更容易受到攻击。基于这种逻辑的一种交易方式是购买以区域性银行债务为标的的信用违约互换。
对于洪水、野火甚至恐怖主义等传统灾害，最直接的应对之策显然是购买保险。但人工智能风险市场的发展却十分缓慢。即使是数据中心面临的物理风险也难以投保。今年早些时候，行业标准制定机构保险服务办公室（ISO）发布了一项新的保险模板，将生成式人工智能造成的损失排除在多种索赔范围之外。一些大型公司已向监管机构申请将此类新型威胁排除在外。这种谨慎态度造成了市场空白，一些初创公司正试图填补这一空白。但就目前而言，这些公司的规模与这项任务相比微不足道。
保险公司面临的问题根源更深。他们难以承保人工智能带来的风险，因为“风险”这个概念对于人工智能的本质而言过于简单明了。在经济学中，风险指的是可量化的概率。而人工智能带来的威胁则难以捉摸，难以界定。这些威胁是新兴事物，人们对它们的了解也十分有限，相关的证据基础薄弱。因此，无论是保险的买方还是卖方，都不知道该如何为人工智能风险定价。
在人类漫长的悲观历史中，不乏预言末日的人，他们的预测往往轻率而随意。那些大喊大叫供应链崩溃、经济硬着陆或金融崩溃的人，如果真像他们自称的那样有远见，完全可以靠预言赚钱。但人工智能不同。在人工智能的极端情况下，其风险本质上是无法对冲的。即使你能计算出某种生存威胁发生的概率，购买那些最终不会兑现承诺的交易对手的保护也毫无意义。
如果发生“人工智能接管”事件，人类被征服或边缘化，最大的赢家将是人工智能，它们将成为地球上的主宰。它们会成为任何末日预言家想要购买的保险的天然受益者。但即便这种情况真的发生，超级智能也会是一个难缠的谈判伙伴。与人类不同，它们很可能会仔细阅读条款细则。■
热门跟贴