AI大模型的价格战打得火热，token单价一降再降，但企业用在AI上的总花费却可能不降反升。Gartner最新研究给这股热潮泼了一盆冷水：随着模型推理成本下降，企业构建的AI应用越来越复杂，最终总成本反而被推高。

这家研究机构将这种现象称为“推理悖论”（inference paradox），并警告称，到2028年，AI推理成本可能增长五倍。对于正在全力押注agentic AI（智能体AI）的企业来说，这可能是第一个真正的现实挑战。

打开网易新闻 查看精彩图片

什么是“推理悖论”？

Gartner在报告中梳理了推动token经济学的三大趋势：基础模型成本经济学持续改善、AI效率提升催生“更复杂的AI应用”、以及相比标准聊天机器人，“复杂工作流”消耗的AI token数量大幅增加。

这三股力量叠加的结果，就是Gartner所说的“推理悖论”——“更好的单位经济学反而推高了AI的总体成本，却没有提供一条通往相应且可预测价值的清晰路径。”

简单来说，token单价虽然在降，但用得越来越多，总账反而更贵了。

聊天机器人 vs AI智能体：成本差距五倍

Gartner高级总监分析师Will Sommer用聊天机器人和AI智能体的对比来说明这一悖论的经济学现实。

“一个简单的聊天机器人，只需读取并理解查询，然后快速给出一个概率上合理的答案即可。而一个AI智能体必须不断推理、协商、自我质疑。”Sommer指出。

研究显示，使用agentic推理模型而非基础聊天机器人，推理成本会增加五倍，而且这个倍数还会随着复杂度上升而继续扩大。这意味着，越是追求“智能”的AI应用，其运行成本越是呈指数级增长。

成本管理成为新优先级

Gartner认为，推理悖论的影响尚未被积极推进agentic解决方案的企业完全理解和认知。Sommer直言：“产品领导者不能指望更高效的token经济学来合理化AI成本。”

换句话说，靠模型降价来消化AI开支的思路，可能行不通了。

报告暗示，未来可能出现多种应对方案——例如企业之间合作开发AI智能体以分摊成本——但随着行业向更复杂的模型和智能体持续推进，token的消耗量和成本只会继续攀升。

企业该如何应对？

对于正在规划AI预算的企业决策者，Gartner的这份报告提供了几个值得关注的视角：

  • 成本规划不能只看token单价，要预估应用复杂度带来的总成本变化
  • 从聊天机器人升级到AI智能体，不是简单的功能增强，而是成本量级的跃升
  • “更便宜”的模型可能会诱导企业构建更复杂的应用，反而推高总支出

每一代AI能力的提升，都意味着更多、往往也更昂贵的token消耗。在推理悖论的阴影下，企业需要重新审视自己的AI投入策略——不是要不要用AI的问题，而是如何让AI成本与业务价值真正对齐的问题。