开源大模型做客服分流,成本确实比人工低一大截。但一份实证分析给出的结论没那么乐观:高升级率、幻觉和死循环,把省下来的钱又吃回去不少。

便宜是真的,省下的没那么多

打开网易新闻 查看精彩图片

分析针对的是开源LLM搭建的支持分流智能体。单看成本,它显著低于人工坐席。问题出在效果端——当智能体频繁把问题升级给人工、时不时编造答案、甚至卡在循环里出不来,原本的成本优势就被大幅压缩,ROI差距随之收窄。

三类失败模式被点名

  • 高升级率:大量请求最终仍要转人工处理
  • 幻觉:智能体给出不存在的答案
  • 死循环:流程卡住,无法正常收敛

这三项不是边角问题,而是直接决定分流方案能不能算得过账的关键变量。成本低只是分子,失败模式拉高的是分母。

误区在哪

分析还提到了落地过程中的误判。把开源智能体当成即插即用的省钱工具,忽略升级率、幻觉和死循环带来的隐性开销,是这套方案在真实世界里最容易踩的坑。