谷歌开源了一个新模型,名字叫 EmbeddingGemma 2。它只有 740M 参数,却能把代码、图像、视频和音频全部映射进同一个向量空间。
上一代 EmbeddingGemma 是纯文本模型。这一代直接做成了原生多模态,跨模态语义检索成了默认能力——用文字搜图片,或者用图片找相关代码,都在同一个语义空间里完成。
上下文翻倍,代码评分涨了10分
上下文长度从上一代扩展到了 8K。参数量控制在 740M,这个体量本身就是为端侧设备准备的。
代码理解能力的提升最直观:MTEB Code 评分从 68.76 提升到 78.68。这个涨幅对本地代码索引和编程 Agent 的检索效能来说,是实打实的增强。
换句话说,以前在本地跑代码检索,模型经常"找不到"或者"找错",现在这个环节的准确率上了一个台阶。
量化后567MB,端侧RAG的合规解法
量化之后,全多模态模式在移动设备上的活跃内存占用大约是 567MB。这个数字意味着它能在手机上跑起来,而不是只能待在服务器里。
适合的场景很明确:
- 端侧 RAG——数据不出设备
- 医疗、法律、金融——高合规要求的检索场景
- 本地代码索引和编程 Agent
这些场景的共同点是:数据不能上云,但检索需求又真实存在。把嵌入模型放到端侧,等于把"转录"从生成问题变成了检索问题——不需要模型现场生成答案,只需要在本地向量空间里找到最相关的那一条。
谷歌这次开源,把多模态嵌入的部署门槛拉到了移动设备级别。对于做隐私敏感型应用的开发者来说,这是一个可以直接上手试的选项。
热门跟贴