一次执行没有报错，延迟正常，CPU 平稳，可用性满分——但智能体给出的结果是错的。它调用了不该调用的工具，检索到质量很差的信息，或者绕了一条贵得毫无必要的执行路径。传统监控指标对此一无所知。

亚马逊云科技高级专业解决方案架构师Daniel Abib指出了这个断层：对于传统应用程序，延迟、错误、CPU 和可用性等指标通常足以帮助识别运维问题；但对于 AI 智能体，技术层面的成功和业务层面的正确，是两件事。

打开网易新闻 查看精彩图片

问题出在非确定性上

智能体的行为具有非确定性。即使标准指标没有显示任何错误，提示词的变化也可能导致响应质量下降。团队需要花费数小时手动审查多个系统中的日志，却仍然无法确定发生了什么变化，也不知道变化的原因。

这正是最近推出的Amazon CloudWatch Omni想解决的问题。它被定位为一个 AI 优先的可观测性平台，目标是通过统一环境监控、评估和排查应用程序及自主 AI 智能体的问题。

具体做法是：Omni 会捕获端到端追踪数据，评估正确性、连贯性、检索效果和工具选择，并允许用户比较提示词、根据生产流量构建测试数据集、运行实验以及检测回归。换句话说，它评估的不只是系统跑没跑起来，还有智能体干得对不对。

开放标准与多框架支持

在兼容性上，Omni 支持多种智能体框架，包括 LangChain、LangGraph、CrewAI、OpenAI SDK、Strands 和 Vercel AI SDK。它采用 OpenInference 和 AWS Distro for OpenTelemetry（ADOT）等开放标准，并与 Amazon Bedrock AgentCore 集成。评估方面，它还支持 Braintrust、DeepEval 和 Ragas 等第三方评估器。

Omni 提供统一可观测性，将传统微服务、云基础设施以及生成式 AI 和智能体工作负载纳入同一个体系，提供统一视图。它原生支持 OpenTelemetry，使现有遥测数据无须复杂的重新配置即可接入。

使用体验上，它提供双工作区：运维人员可以在传统 AWS Management Console 之外，通过单点登录（SSO）使用独立的 Web 体验；开发者则可以使用免费、本地且易于使用的 IDE 扩展，该扩展同时支持 VS Code 和 Kiro。

此外，CloudWatch Omni 支持 AI 驱动的调查功能，允许用户通过自然语言查询日志、指标和追踪数据，从而识别拓扑问题并定位根本原因。

信任来自能解释

亚马逊云科技副总裁Chet Kapoor在 LinkedIn 上这样概括这款新工具：它“可以帮助你主动发现问题、追踪其根本原因，并在同一个平台中找出智能体、应用程序和基础设施的改进空间”。

亚马逊云科技前首席安全顾问Jorg Huser同样指出：“能够解释智能体为何采取某项行动的统一视图，是在大规模应用中维持信任的唯一方式。”

德意志银行 DevOps 主管工程师Florin Lungu则强调，CloudWatch Omni“支持开放标准，并提供用于质量保证的内置评估器”。

虽然 CloudWatch Omni 可能最适合运行在亚马逊云科技上的应用程序，但还有多种其他可观测性工具和平台将追踪、评估、提示词实验和数据集结合起来，重点面向智能体应用。其中包括 LangChain LangSmith、LangFuse、Arize AI Phoenix 等。