快科技10月20日消息,人工智能初创公司Modal宣布,将开始使用英伟达的新型Vera处理器来运行人工智能代理,这些代理系统可以代表用户执行长时间运行的任务。
这家总部位于旧金山的公司向人工智能开发者出租计算能力,此前一直完全依赖英特尔(Intel)和AMD的芯片来完成这项工作。
据该公司称,早期测试表明,英伟达芯片使人工智能代理的工作量翻了一番,这促使Modal首次支持英伟达的芯片设计。此次集成需要对Modal平台进行大量软件修改。
首席执行官埃里克·伯恩哈德森谨强调,Modal并未放弃现有供应商。该公司计划将英伟达芯片与其现有的英特尔和AMD芯片混合部署,根据任务不同,将每项任务分配给最合适的硬件。
伯恩哈德森表示,测试将英伟达芯片与市面上已有的英特尔和AMD芯片进行了对比。这两家竞争对手都在开发可能缩小差距的新型号,Modal将在这些新型号上市后进行评估。他补充说,混合配置意味着公司"可以随时部署性能最佳的硬件"。
英特尔和AMD长期以来一直主导服务器CPU市场,这些通用处理器负责处理人工智能模型相关的编排和控制工作。
相比之下,英伟达的图形处理器已成为训练和运行大型人工智能模型所需繁重数学运算的标准。Vera的推出标志着英伟达试图将其影响力扩展到人工智能数据中心的主机处理器层,而其竞争对手仍然牢牢占据着这一领域。
对Modal而言,这一决定体现了其在瞬息万变的硬件环境中采取的务实策略。这家初创公司押注于构建异构集群,而非忠于单一供应商,从而在客户需求日益增长的情况下,最大限度发挥每项任务的性能。
打开网易新闻 查看精彩图片
热门跟贴