人工智能推理的未来并非高端稀缺，而是普及化和商品化。
这话出自一位从事AI半导体业务的人士之口，或许听起来有些奇怪。传统观点认为商品化会摧毁价值，如果AI推理变得廉价且广泛可得，市场理应萎缩。
但历史给出了相反的答案。真正重塑产业的技术很少能长期保持稀缺状态。电力、宽带、云计算和存储都走过了同样的路径。当它们变得更实惠、更可靠、更易部署时，需求并未萎缩，反而爆发式增长。
AI推理正接近同样的拐点。AI的下一阶段不会以将推理保持为稀缺、高端、高单位经济效益的能力为特征，而是要将推理成本降到足够低，让组织不再限制其使用，转而将AI嵌入到自己所做的一切事情中。
这不是一场逐底竞争，而是一个更大市场的开端。
奢侈品陷阱
目前AI的定价、营销和部署方式都像是奢侈品。行业仍然聚焦于稀缺的加速器、高端系统、昂贵的部署方案，并从每一份可用资源中榨取最大性能。
这种态势也限制了采用率，促使企业将AI视为珍贵资源。工程团队限制Token使用量、限制API调用频率、设置部署上限，以防止云计算账单失控。据报道，就连微软公司也在限制AI的使用。
要让AI真正实现普及，组织不应该需要计算下一次AI交互是否具有经济上的合理性。虽然更低的单位经济效益似乎会威胁到围绕高端计算构建的行业，但事实可能恰恰相反。
27美元的松露巧克力与99美分的巧克力棒
传统硬件供应商担心，单位成本下降会缩小整个AI市场。但更低的推理成本同样会创造新客户、新工作负载和新商业模式。
设想一家精品巧克力店出售手工松露巧克力，每颗售价27美元。这种手工制品利润丰厚，但客户群体有限。
再对比一款售价99美分的巧克力棒。巧克力市场并不会因为产品便宜而缩小，反而会因为数百万人能够负担得起而扩大。而这种规模效应，反过来又支撑起全新的产品、分销模式和商业形态。
随着推理变得更加实惠，此前无法承担大规模AI部署的组织突然有能力这样做了。现有的AI服务盈利能力也随之提升，因为推理效率的每一次改进都会降低运营成本，并改善已投入生产的应用的经济效益。
企业可以开始围绕持续性AI使用重新设计服务——包括环境智能、自主系统和常驻助手——因为经济效益终于能够支撑起规模化运行这些服务。商品化并不会降低推理的价值，而是让推理能够在更多地方创造价值。
超越数字化的顶级赛车
以汽车为例。顶级燃油赛车是价值数百万美元的工程杰作，能够实现非凡的性能。但几乎没有人愿意每天开着它上班，也没有任何物流公司会用它来打造配送车队。
全球经济运转依靠的是丰田凯美瑞、福特全顺这类可靠、高效、面向大众市场的车辆。它们价格实惠、易于维护、规模化运行可靠，专为日常使用而设计。
AI基础设施必须达到类似的水平。推理的大众市场不能仅仅由哪套系统在理想条件下取得最亮眼的基准测试成绩来定义。组织更在意的是系统能够持续、经济、大规模地交付什么。问题不在于什么最快，而在于什么最具生产力和效率。
衡量结果而非活动量
评估AI的指标也必须随之演变。生成的代码行数、每秒请求数和基准测试得分是有用的工程指标，但它们并不等同于业务成果。
企业投资AI并非为了生成更多代码或Token，而是为了完成更多事情。当推理变得更加实惠，组织就能减少花在优化每一个提示词和Token上的时间，将更多精力投入到AI所能促成的实际工作中。
商品化不仅仅需要更便宜的推理，还需要行业重新定义性能本身。未来衡量真正业务价值的标准，不应是以吞吐量衡量系统的活动水平，而应聚焦于任务完成率、业务加速程度、节省的时间与资金等成果。
服务于全球经济的AI基础设施，应被设计为日常业务运营的一部分。它应该足够实惠以实现广泛部署，足够高效以支持持续运行，也足够实用以融入现有服务器环境。
真正的AI革命始于推理变得如此普遍，以至于无人再多加思考是否要使用它——这不是因为推理变得不那么有价值了，而是因为它已经变得对所有人都足够有价值。
Marshall Choy是半导体公司Rebellions Inc.的首席商务官，本文由其为SiliconANGLE撰写。
Q&A
Q1：为什么说AI推理必须走向商品化？
A：因为历史经验表明，真正重塑产业的技术很少能长期保持稀缺状态，比如电力、宽带、云计算等。当这些技术变得更实惠、更可靠时，需求不但没有萎缩，反而爆发式增长。AI推理正接近同样的拐点，只有成本足够低，组织才会停止限制使用，将AI真正嵌入日常运营。
Q2：AI推理成本降低会不会导致市场萎缩？
A：不会。文章以巧克力为例说明，27美元的手工松露巧克力客户群体有限，但99美分的巧克力棒能让数百万人负担得起，市场反而因此扩大。同理，推理成本降低会让此前无法承担AI部署的组织能够使用，同时也让现有AI服务更盈利。
Q3：评估AI性能应该看哪些指标？
A：文章指出，生成的代码行数、每秒请求数等只是工程指标，不等同于业务成果。真正应该关注的是任务完成率、业务加速程度以及节省的时间和资金等实际成果，而不是单纯追求系统运行速度或活动量。
热门跟贴