打开网易新闻 查看精彩图片

新智元报道

编辑:润 alan

【新智元导读】Zoom CTO黄学东发文,讨论了Zoom对于高效处理AI任务需求采用的技术——Zoom联邦AI。达到GPT-4性能的同时,Zoom AI只用了不到10%的成本。

近日,AI大佬,现任Zoom CTO的黄学东,在自家的官网上发表了一篇博客。

打开网易新闻 查看精彩图片

其中隆重介绍了自己加入Zoom六个月之 后创新的成果——Zoo m AI Companion,以及驱动Zoom AI Companion的Zoom联邦(federated approach)AI。

在Zoom之前,黄学东曾担任微软Azure AI首席技术官,他不仅是微软首位全球华人技术院士,也是微软最高级别的华人科学家

黄学东在微软任职了超过30年,在他的牵线搭桥下,微软于1998年在北京建起第一个亚洲研究院。

在2017年和2020年,黄学东分别当选ACM和IEEE会士,并于2023年同时当选美国国家工程院院士和美国艺术与科学院院士。

打开网易新闻 查看精彩图片

黄学东表示,人工智能从概念化到实现的转型之旅,就像一条曲折的道路,充满了不断的破坏、适应和创新。

「在过去的 30 年里,我一直走在这条道路上,从语音识别、自然语言理解,到计算机视觉。在我加入 Zoom 的过去六个月里,创新的步伐尤其令人震惊。」

Zoom联邦AI,用合适的AI跑合适的任务

Zoom希望使用AI来改善人类协作方式,不断提高生产力。

多年来,Zoom一直在为客户提供语音识别、计算机视觉、机器翻译和大型语言模型(LLM)等AI服务,以增强自家软件的竞争力。

他们的最新产品Zoom AI Companion,旨在帮助用户提高工作效率、促进无缝协作并获得更深入的交流和见解。

Zoom的联邦AI,能够使用户在之前付费服务的基础上,不用额外花钱就能享受AI Companion的功能。

这样能够大大提升用户的体验,还能快速提高新技术的在用户中的渗透率。

但是对于Zoom这样拥有大量用户,高强度使用AI功能的软件,LLM推理的额外成本怎么负担呢?

要知道,GitHub的Copilot被传说,每月收费10刀,依然每个用户每月还要补贴20刀。

打开网易新闻 查看精彩图片

Zoom目前使用的LLM包括自有模型和第三方的模型(如OpenAI GPT-3.5和GPT-4,以及Anthropic Claude 2)。

Zoom联邦AI,可以整合来自合作伙伴的最新的LLM技术(例如OpenAI最新发布的GPT-4 Turbo),进一步改善Zoom客户的端到端体验。

Zoom采用了具有更好成本效益的策略:

首先使用合适的低成本LLM来完成任务,然后通过Z-Scorer评估初始任务完成质量。

在有需要的情况下,Zoom会使用更高级的LLM, 对初始LLM所获得的成果进行改进。

——这类似于一个有凝聚力的团队协同工作,能够比一个人更高效地生产更高质量的产品。

根据Zoom的内部测试,与OpenAI GPT-3.5 Turbo或其他几种最先进的LLM相比,Zoom采用联邦AI提高了AI Companion的输出质量,还有效地控制了成本。

黄学东表示,他们衡量性能的标准是更低的成本、更快的响应时间和更高质量的输出。

打开网易新闻 查看精彩图片

上图是Zoom AI Companion与GPT-4在英文会议查询任务上的性能和成本对比。

图中比较的两个关键指标为成本和输出质量。

Zoom AI Companion只用了不到GPT-4 6%的成本,就能达到几乎相当的输出质量。

与微软Copilot使用的GPT-4-32k模型相比,Zoom AI Companion的会议提问功能,可降低成本,加快响应速度,同时保持相当的输出质量。

打开网易新闻 查看精彩图片

上图是Zoom AI Co mpanion与GPT-4在多语言 会议摘要任务上的对比。

此外,AI Companion的多语言性能,进一步证明了Zoom联邦AI的强大功能,支持除英语之外的32种语言。

由于大多数LLM主要是使用英语数据进行预训练,所以Zoom增加了翻译模型来扩展多语言能力。

上图对比了Zoom AI Companion与Microsoft Copilot在多语言会议摘要任务中的表现,同样使用GPT-4作为Microsoft Copilot的代理来进行对比。

在Zoom AI Companion的多语言会议摘要中,使用Zoom的翻译模型将非英语文本翻译成英语,这样能同时考虑翻译数据与原始数据。

从图中可以看出,Zoom AI Companion以不到6%的成本完成了质量接近于GPT-4-32k的输出(97%)。

Zoom相信,人工智能的好处应该让尽可能多的人广泛使用,而Zoom的联邦AI能够无缝结合不同AI系统的优势,提供高性能结果,在实现这一愿景方面发挥着重要作用。

Zoom AI Companion,最智能的会议助手

而Zoom现在几乎所有AI功能的入口,都集中在了他们9月底推出的Zoom AI Companion上。

作为Zoom提供的「充值服务」,它利用Zoom提供的AI能力,能帮助你在中途加入会议之后,自动总结错过的会议内容。

然后轮到你发言时,结合你的观点和之前会议的内容,生成发言稿,真的做到了「替代用户开会」。

打开网易新闻 查看精彩图片

在半程加入会议之后,AI可以告诉你会议的重点。

还能帮你实时转录翻译其他参会者发言,一键获取会议讨论文本。

打开网易新闻 查看精彩图片

AI还能帮你把碎片化的信息归纳出来,最后为团队生成会议总结和记录。

还能把Zoom平台上获得的客户短信息进行总结,生成具体的执行方案。

打开网易新闻 查看精彩图片

而且对于参加不了的会议,还可以在日程表上直接安排AI智能录制,之后分段分重点回看。

打开网易新闻 查看精彩图片

而这整个AI伴侣背后,都凝结了Zoom和黄学东联邦AI的技术思路,用合适的AI资源去处理合适的请求。

打开网易新闻 查看精彩图片

而且Zoom承诺,不会使用用户的任何音频、视频、聊天、屏幕共享、附件或客户生成的内容(例如投票结果、白板)等其他数据来训练Zoom或第三方的AI。

这么多好用的功能,这么负责的AI,需要花多少钱呢?

150刀到200刀就能用一年,企业用户还有专门的定制版本。

打开网易新闻 查看精彩图片

参考资料:

https://blog.zoom.us/zoom-federated-ai-maximizes-performance-quality-affordability/