Mistral近日宣布，企业客户现在可以选择将AI请求路由至欧洲或美国的服务器，同时还能购买高峰期的优先排队权。这两项服务都需要额外付费，而且区域路由并不覆盖所有功能和数据。 对于将Mistral AI集成到自己产品中的公司来说，请求会发送到该提供商的某个服务器。企业客户关心两个问题：服务器实际位于何处，以及当所有人同时发送请求时会发生什么。Mistral现在开始同时销售这两个问题的答案，并在博客文章中将此定位为更广泛的欧洲AI主权战略的一部分。 区域推理现已全面上线。客户可以将请求发送至欧洲端点（api.eu.mistral.ai）或美国端点（api.us.mistral.ai），处理过程将保持在该区域。这对需要证明客户数据从未离开欧盟的银行、政府机构和保险公司尤为重要。更短的网络路径也意味着更低的延迟。使用默认端点的用户则无法获得关于请求处理位置的任何保证。区域路由的附加费用为标准定价的10%。 然而，欧盟数据处理带来明显的限制。在平台的附加工具中，只有函数调用（function calling）支持区域端点，即模型触发外部API的能力。代理（agents）、批处理（batch processing）和文件管理无法在区域地址上使用。模型选择也因区域而异。Mistral并未发布固定列表，客户必须查询每个端点才能了解可用的内容。 可能的原因在于简单模型查询与存储中间状态之间的差异。标准模型调用无需持久存储。而代理、批处理任务和文件存储会在单次调用之外保留数据，例如中间步骤或上传的文档。Mistral称这些功能为"有状态"（stateful）。它们可能需要额外的本地基础设施，尽管Mistral并未明确说明。

打开网易新闻 查看精彩图片