受邀参赛 | 掌控比赛节奏
桥水基金的尼尔·巴尔·迪亚和格雷格·詹森撰文指出，人工智能监管的反对者提出了四大论点，但这些论点均站不住脚。
近几周来，围绕人工智能风险的激烈辩论提供了一个重要契机。Anthropic公司的达里奥·阿莫迪呼吁业界“引领前沿”，这一倡议得到了广泛响应，各派政治家也纷纷表示准备采取行动。然而，并非所有人都认同此观点。美国前总统唐纳德·特朗普、Meta公司首席执行官马克·扎克伯格以及英伟达公司首席执行官黄仁勋都曾公开反对出台新的人工智能监管规定。
对监管持怀疑态度者主要提出了四点理由：一是人工智能风险被夸大；二是现有法律足以应对；三是部分实验室支持监管旨在巩固自身领先地位；四是若美国放缓发展，中国将迎头赶上，反而会降低全球安全性。
第一种观点认为人工智能风险微乎其微或发生概率极低，这无疑是只见树木不见森林。功能强大的模型已落入不法分子之手，对所有人构成威胁。而目前所见的仅是冰山一角：不法分子很可能利用更难追踪的开源模型作恶。
此外，具备超人能力的模型已然出现。Anthropic公司近期发布的实验报告显示，这些模型可能在数月内实现无需数据中心的自主复制。长远来看，尽管概率极低，但超强智能体仍有可能对人类生存构成威胁。
与此同时，社会必须应对人工智能对劳动力市场的影响。全球化浪潮之后，西方国家已饱受民粹主义冲击，1990年至2010年间，制造业在非农就业中的占比下降了7个百分点。我们认为，一场规模更大、速度更快的第二波冲击正在酝酿，人工智能有可能在更短时间内取代近五分之一的美国工作岗位。
人们对风险发生的概率可能看法不一，但关键在于总体风险是否值得采取行动。网络攻击的风险巨大且日益增长；与智能体相关的超级智能风险尚不明朗，但可能造成灾难性后果；对人类劳动者的风险似乎不可避免，尤其是在社会成功规避前两种风险的情况下。因此，对总体风险进行监管的必要性显而易见。
怀疑论者的第二个论点，即现有法律已足够，忽略了这些法律并非针对人工智能特有风险而制定。社会此前已从中吸取教训：工业革命后的食品安全、专利药热潮后的药品安全以及2007-2009年金融危机后的金融监管。社会不会仅仅因为公司日后会承担责任，就接受受污染的婴儿食品、导致数千人死亡的药物或破坏系统稳定的金融工具。当后果无法容忍时，仅靠法律责任不足以应对，因此监管不能追溯既往。值得注意的是，这些行业在后续的监管下都蓬勃发展起来。
第三种说法，即某些实验室为巩固自身优势而支持监管，或许属实，但这与主题无关。至于有人说这些公司权力过大，他们自己也承认这一点，那就另当别论了。我们估计，到2028年，OpenAI和Anthropic两家公司将控制全球约35%的计算能力。标普500指数中的十家公司，几乎全部位于人工智能供应链，就占据了该指数约40%的市值。无论其动机如何，这种权力高度集中的局面都必须受到监管。
第四个论点，即如果美国出台新规，中国将加速超越，是多层次的。人工智能竞赛就像冷战时期，美国对核技术的研发受到严格监管，而苏联则不受约束。结果，苏联非但没有领先，反而因监管不力而酿成切尔诺贝利等灾难，最终导致帝国崩溃。中国深谙此道：它采取了更为严格的管控措施，这符合通过控制技术来维护稳定的原则，即便是在提炼前沿实验室模型的同时。美国的监管会减缓中国的发展速度，同时也会降低可能改变竞赛格局的严重事故风险。
在规划前进道路时，有必要从三个角度思考原则：谁来监管、监管什么以及如何监管。
谁应该监管这个问题至关重要，因为监管机构将决定其他一切的质量。有人认为，鉴于政府在人工智能领域的专业知识有限，企业应该自我监管。但政府最适合代表社会行事，因为在民主制度下，政府的激励机制与社会利益最为契合。如果监管机构存在专业知识不足的问题，可以通过其他途径弥补。而企业固有的激励机制错配则难以弥合。
那么，谁应该受到监管？那些能够造成巨大影响的人。这意味着所有模型开发者和所有最终用户。视野过于狭隘会留下漏洞。
“监管内容”指的是监管的性质和范围。监管应以最大限度地提高长期效益或实现单位风险的最大回报为目标。监管不足会损害社会，就像工业革命后不受约束的童工现象一样。监管过度则会阻碍经济增长，就像美国在20世纪中期为了保护运输公司而采取的措施一样。最终目标必须是制定能够以最小必要限制来应对特定风险的规则。
“如何做”指的是实施，而实施过程必须快速且快速变化。航空业是一个值得借鉴的模式：美国联邦航空管理局每年发布300多项适航指令，自1964年以来，其全面的飞机认证规则已修订90多次。人工智能在速度和迭代方面将需要更高的效率。
这一切都不会简单。但什么都不做绝对是最糟糕的选择。如果辅以适当的监管，人工智能可以为人类带来巨大的福祉。现在对其进行监管是确保其未来能够兑现承诺的唯一途径。
热门跟贴