谷歌公司今日发布了EmbeddingGemma 2,这是一款体积小到可以在智能手机上运行的开放式多模态嵌入模型。
此次发布将EmbeddingGemma系列的能力扩展到了文本之外。此前谷歌于2025年9月推出首个版本时,该模型仅能处理文本。而现在,图像、音频和视频都能与文本共享同一个嵌入空间。举例来说,基于新模型构建的应用可以接收一段语音备忘录,然后在不将数据上传至云端的情况下,直接在手机本地找到视频中对应的匹配片段。
谷歌DeepMind研究工程师萨希尔·杜瓦和恩里克·谢赫特·维拉在发布公告中写道,初代产品的市场反响"远超我们的预期"。据他们统计,开发者的下载量已超过2000万次。
新版本基于谷歌今年4月发布的Gemma 4架构构建,参数规模达到7.4亿,是初代产品的两倍以上。大部分规模增长集中在视觉和音频编码器上,仅处理文本的应用可以不加载这部分模块。单独来看,2.7亿参数的文本核心部分,在谷歌于Pixel 11 Pro手机上测试量化版本时,内存占用约为191兆字节。
应用程序还需要存储模型的输出结果。每个嵌入向量包含768个数字,模型每索引一张照片、一段视频或一份文档,本地向量数据库就会增加一条这样的记录。一种名为"俄罗斯套娃表征学习"的训练技术,让开发者可以将这些数字列表缩减至最少128个,从而将存储空间占用减少多达六倍。谷歌的开发者指南显示,当数字列表长度为256时,图像、视频和语音检索仍能保持约95%的完整质量。
在基准测试中,代码处理能力的提升最为显著。EmbeddingGemma 2在大规模文本嵌入基准测试的代码部分得分78.68,比初代版本高出近10分。谷歌正将这一成果推介给那些为编程智能体构建检索功能的开发者。相比之下,多语言文本得分的变化并不明显。
该公司还宣称,在参数量低于10亿的多模态嵌入模型中,EmbeddingGemma 2处于领先地位,并表示该模型在图像、视频和音频任务上的表现,超越了一些规模是其两倍以上的专业模型。
由于EmbeddingGemma 2与Gemma 4共享文本分词器和音频编码器,因此同时运行这两个模型的设备端检索增强生成系统,相比运行两个互不相关的模型所需的内存更少。谷歌面向Mac平台推出的AI Edge Foresight会议应用已经将这两个模型搭配运行。在谷歌的AI Edge Gallery演示应用中,一项"视频时刻查找器"功能可以根据文字或语音查询,在视频中定位对应场景。
模型权重现已在Hugging Face公司和谷歌Kaggle平台上开放获取,采用允许商业使用的Apache 2.0许可协议。谷歌表示,该模型即将登陆Gemini企业智能体平台中的模型花园,且这些权重已可与vLLM、llama.cpp和Ollama等开源服务工具兼容使用。
Q&A
Q1:EmbeddingGemma 2是什么?
A:EmbeddingGemma 2是谷歌发布的开放多模态嵌入模型,体积小到可以在智能手机上运行。它能将文本、图像、音频和视频统一到同一个嵌入空间中进行处理。
Q2:EmbeddingGemma 2相比初代版本有哪些改进?
A:新版本基于Gemma 4架构构建,参数规模达7.4亿,是初代的两倍以上,新增了图像、音频和视频处理能力。在代码检索基准测试中得分78.68,比初代版本高出近10分。
Q3:普通开发者能否使用EmbeddingGemma 2?
A:可以。模型权重已在Hugging Face和谷歌Kaggle平台开放获取,采用允许商业使用的Apache 2.0许可协议,且已兼容vLLM、llama.cpp和Ollama等开源服务工具。
