富兰克林邓普顿CEO Jenny Johnson在彭博播客中表示,企业应智能地将大部分日常AI请求路由到免费或低成本模型,把昂贵的前沿模型只留给最难的任务。
贵模型留给最难的任务
打开网易新闻 查看精彩图片
Johnson的核心意思是:企业不该把所有AI请求都交给最贵的模型。日常的、重复性的任务可以用免费或低成本模型处理,真正需要前沿模型出场的,是那些最难的工作。
关键词是"智能地路由"
Johnson用的词是"智能地路由"。这意味着企业需要一套判断机制,决定哪个请求该走哪条路。
她没有展开具体怎么实现路由,也没有给出成本对比的数字。但这一建议来自一家资产管理公司的CEO,其价值在于她看问题的角度。
热门跟贴