Cloudflare今天宣布,计划将Workers AI和AI Gateway整合为单一的AI控制平面。这意味着,开发者将不再需要分别管理这两项服务,而是可以通过统一的入口连接任何模型提供商,并集中处理可观测性、计费、安全性和日志。 此前,Workers AI和AI Gateway是两个独立的产品。AI Gateway作为代理层,支持向任意模型提供商转发请求,并提供内置的管理功能;Workers AI则利用Cloudflare自管的GPU基础设施,提供推理即服务。Cloudflare观察到,虽然两者架构不同,但用户的实际使用目标正在趋同——最终都是要借助一个复杂的控制平面来访问模型。 将两者合并后,用户可以在同一个控制平面内调用Workers AI或其他模型提供商的模型,同时享受网关的流量管理能力。Cloudflare已在入口层实现了统一,AI绑定同时支持两个服务,默认网关也让新用户无需配置即可获得可观测性和日志记录功能。当然,用户仍然可以自定义网关,以隔离不同应用的项目。 Cloudflare表示,这次整合是其AI长期规划的关键一步。未来,统一控制平面将如何进一步优化模型路由,值得期待。

打开网易新闻 查看精彩图片