模型市场崛起：AI成本战催生新商机
商业 | 代币总额
在企业努力削减成本之际，OpenRouter这类公司正蓬勃发展。
记账单位的出现极具意义。早在货币普及之前，人们就已尝试寻找标准化的记账方法。《伊利亚特》中，青铜或黄金盔甲的价值便以牛的数量来衡量（青铜盔甲值九头牛，黄金盔甲值一百头牛）。毛皮、巨石和盐堆都曾被用作计量标准。
人工智能领域由其基本单位——令牌（token）——主导。令牌是文本片段，通常由四个字符组成，人工智能模型通过读取或生成这些令牌进行运作。然而，令牌的问题在于，它们不像牛或皮毛那样便于衡量。首先，特定任务会消耗多少令牌事先无法确定。其次，不同模型的定价差异巨大：中国初创公司DeepSeek提供的一款热门模型，其每个令牌的价格约为美国顶尖实验室Anthropic开发的先进模型的四十分之一。
对于使用人工智能的公司而言，这无疑令人沮丧。一个简单的任务，例如让模型处理发票，都可能产生巨额费用。为避免这种情况，一些企业会限制员工可使用的令牌数量，但这可能降低生产力。这种混乱局面催生了一种新型商业模式：模型交易平台。
OpenRouter是这些市场中最知名的平台，由Alex Atallah于2023年联合创立。ChatGPT发布后，Atallah先生开始思考未来的世界会是怎样。“我当时最大的疑问是：这会是一个赢家通吃、OpenAI独占鳌头的市场吗？”他说道。他对此表示怀疑，并得出结论：市场将在人工智能行业中扮演核心角色。
OpenRouter让用户能够轻松切换模型。如果Anthropic的Claude模型出现故障，他们可以使用OpenAI的模型；当某个实验室提供令牌折扣时，他们也可以进行切换。OpenRouter对通过其平台路由的数据收取少量费用。由于业务发展迅猛，支付巨头Stripe于8月同意收购该平台。据报道，Stripe将为这家成立仅三年的公司支付75亿美元。
OpenRouter并非唯一的模型市场。大型云计算提供商也提供类似服务。亚马逊通过Bedrock提供一系列模型，费用根据现有云服务协议收取；谷歌则通过其Vertex AI服务提供相同服务。但许多客户对这类服务持怀疑态度：这些云巨头既构建自己的模型，又投资于前沿实验室，很难保持中立。
OpenRouter最初在开发者中广受欢迎，因为它提供了一种尝试各种不同模型的方法，并能快速评估哪个模型性能最佳。ChatGPT发布后，许多人工智能实验室开始“基准测试最大化”（benchmaxxing）——构建能够轻松通过某些测试（例如SAT测试）但难以胜任更实用任务的模型。在OpenRouter的市场中，用户通过消费投票，从而创建了一个更公平的排名系统。
最近，越来越多的公司开始使用OpenRouter作为控制成本的工具。值得注意的是，DeepSeek以及另外两家中国模型开发商Z.ai和小米提供的廉价系统占据了该平台令牌消耗的主导地位（尽管OpenAI的模型目前表现也不错）。
即便如此，Atallah先生认为许多企业在令牌使用方面仍然不够成熟。他建议企业客户根据工作的开放程度，将任务划分为低、中、高“熵”三类。对于低熵任务，例如决定由哪个模型来审查代码，以及许多中等熵任务，例如实际审查代码，低成本模型通常就足够了。而前沿模型则可以用于高熵任务，例如从头开始编写代码。
Atallah先生说：“我看到很多公司犯的错误就是他们根本不分解这些东西。对他们来说，这些东西都一样。这简直是巨大的浪费。”
热门跟贴