谷歌于周一推出EmbeddingGemma 2，这是其面向设备端部署的多模态嵌入模型新一代产品，可在本地硬件上统一处理文本、图像、音频与视频，主打数据隐私保护与离线推理能力，对移动端AI应用开发者具有直接吸引力。

新模型拥有7.4亿参数，基于Gemma 4架构构建，采用Apache 2.0商业友好型许可证开源发布。

谷歌表示，该模型在MTEB代码评测中较上一代提升9.92分，并在sub-1B规模多模态嵌入模型中取得领先基准成绩，部分指标甚至超越体量两倍以上的专项模型。

EmbeddingGemma 2将直接影响以本地搜索、隐私优先RAG（检索增强生成）流水线为核心场景的应用开发格局。

上一代产品EmbeddingGemma自发布以来已累计超过2000万次下载，此次升级将嵌入能力从纯文本扩展至多模态，有望进一步扩大谷歌在端侧AI基础设施领域的开发者生态优势。

参数精简，端侧推理成本可控

EmbeddingGemma 2的核心设计逻辑是在有限硬件资源下实现高质量多模态推理。模型采用模块化架构，纯文本工作负载仅需约2.7亿参数，视觉编码器（1.7亿参数）与音频编码器（3亿参数）可按需加载，全模态版本总参数量为7.4亿。

谷歌公布的测试数据显示，在经过量化处理后，该模型在Google Pixel 11 Pro上运行时，纯文本权重仅需约191MB活跃内存，全多模态模式所需内存约为567MB。对于内存受限的消费级设备而言，这一指标具有实际部署意义。

在存储效率层面，模型引入Matryoshka表示学习（MRL）技术，允许开发者将输出向量从768维动态截断至512、256或128维，最高可实现本地向量数据库6倍的存储压缩比。

上下文窗口扩大四倍，多模态处理能力提升

EmbeddingGemma 2将上下文窗口扩展至8K token，是上一代4倍，可在本地硬件上直接处理最长约5.5分钟的音频、29张图像、58帧视频，或上述模态的交错组合输入。

这一能力使跨模态语义检索场景在端侧变得可行，例如通过语音备忘录定位特定视频片段，或基于文本查询检索多小时音频录音。

在代码检索能力上，模型在MTEB Code基准测试中从68.76分提升至78.68分，升幅达9.92分，适用于本地代码库索引、语义代码搜索及编程智能体检索等场景。

谷歌表示，该模型与上一代保持相当的多语言文本嵌入性能，同时在图像、视频、文档和音频维度均有质量提升。

与Gemma 4协同，支持全离线RAG流水线

EmbeddingGemma 2与谷歌生成式模型Gemma 4共享文本分词器与音频编码器，二者可组合运行于同一推理流水线，并实现更低的综合内存占用。

这一设计为开发者提供了一条在设备本地构建完整RAG流水线的路径，全程无需连接云端服务器，数据不离开终端设备。

谷歌指出，本地生成嵌入有助于确保数据隐私、降低流水线延迟，并使跨模态搜索与检索功能在完全离线状态下运行。这一定位与当前部分企业和开发者对数据主权和隐私合规的关注相契合。

模型已开源，相关评测指标及模型信息可通过EmbeddingGemma 2 model card查阅。

本文来自华尔街见闻，欢迎下载APP查看更多