打开网易新闻 查看精彩图片

Netskope本周宣布在其NewEdge私有云中更新了AI Fast Path解决方案,帮助企业在保持安全控制的同时降低AI应用的延迟。

随着企业持续采用生成式AI工具,安全团队正在努力解决如何在不导致终端用户绕过安全措施的情况下执行AI治理控制的问题。

Netskope产品和解决方案营销负责人Robert Arandjelovic表示:"AI应用正在发送大量流量并交换大量数据,这自然会产生延迟。如果安全措施在此基础上增加更多延迟,用户将试图绕过它。"

AI Fast Path专注于优化企业用户、Netskope云和主要AI提供商之间的流量。Netskope表示,其120个NewEdge数据中心中超过90%现在可以在5毫秒内从Netskope云连接到领先的AI应用,这一努力旨在最大限度地减少流量在接受数据丢失防护、威胁防护和策略执行检查时的额外延迟。

Arandjelovic说:"客户意识到,如果他们不采用这些AI应用,几年后可能就会被淘汰。同时,我们不能在安全性上妥协。因此,通过NewEdge和AI Fast Path,我们创建了一条超优化路径,几乎不会产生任何延迟。同时,他们不会在安全性上妥协,因为流量仍然通过我们的云,获得我们数据保护和威胁防护的所有优势。"

作为NewEdge中的一组功能,AI Fast Path为AI应用提供更好的性能和效率。据Netskope介绍,AI Fast Path为企业提供:

更快的推理结果:从提示到响应为企业用户提供更快的结果,最大限度地减少对话AI的"首Token时间"。

智能体AI优化:通过高速处理加速复杂的多提示智能体工作流程,满足快速迭代AI子任务的需求。

大语言模型性能优化:当访问大量分布式数据时(例如通过模型上下文协议网关)优化大语言模型性能。

检索增强生成支持:加速大语言模型与外部数据源之间的连接,实现实时输出。

NewEdge是Netskope私有构建的全球网络,在客户流量到达云和AI服务之前,通过全球120多个数据中心传输客户流量。它是Netskope One安全访问服务边缘产品的基础组成部分。当客户部署Netskope时,用户设备上的代理会自动将其网络、SaaS、私有应用和AI流量路由到Netskope云中。AI Fast Path优化为AI工作负载提供了到Google Gemini、ChatGPT和Claude等服务的直接、低延迟路由,这部分归功于Netskope将对等关系从10000个扩展到11000个。

该公司表示,AI Fast Path功能作为NewEdge基础设施的一部分包含在内,现有客户无需额外许可即可使用。

Q&A

Q1:AI Fast Path是什么?它解决了什么问题?

A:AI Fast Path是Netskope在其NewEdge私有云中推出的新解决方案,专门解决企业在使用生成式AI工具时面临的网络延迟问题。它能在保持安全控制的同时,优化企业用户、Netskope云和主要AI提供商之间的流量,让90%以上的数据中心能在5毫秒内连接到主流AI应用。

Q2:AI Fast Path如何提升AI应用的性能?

A:AI Fast Path通过多种方式提升性能:减少对话AI的"首Token时间"、加速智能体工作流程、优化大语言模型访问分布式数据的性能,以及加速检索增强生成中大语言模型与外部数据源的连接。同时通过扩展对等关系网络,为AI工作负载提供直接、低延迟的路由。

Q3:使用AI Fast Path需要额外付费吗?

A:不需要。AI Fast Path功能作为NewEdge基础设施的一部分包含在内,Netskope的现有客户可以直接使用这些功能,无需购买额外的许可证或付费升级。