在近期做客 Matthew Berman 的访谈节目中，Tibo 对 AI 推理速度的未来做出了一个大胆预测。他认为，在可预见的未来里，750 tokens/秒的推理速度将成为默认而非例外。这场对话被 Kim 盛赞为年度最佳访谈之一。

Kim 进一步指出，随着我们花大量时间观看智能体工作，速度的重要性将愈发凸显。未来的关键问题不仅是 AI 有多聪明，更在于它运行得有多快。

打开网易新闻 查看精彩图片

速度为何成为新焦点？

当 AI 从对话工具演变为执行任务的智能体，用户的耐心阈值正在改变。等待几秒的响应与近乎实时的反馈，体验差异是巨大的。Tibo 的预测指向一个更高效的人机协作时代。