![文章封面](https://developer.qcloudimg.com/http-save/10106350/b8671f8076f38eb1d926846d1c414e0a.png)

## 更新概览

EmbeddingGemma 2 是第二代版本，核心变化从纯文本嵌入扩展到多模态支持。模型参数量 740M，基于 Gemma 4 架构，原生处理文本、代码、图像、视频、音频，映射到统一嵌入空间。

上下文窗口从 2K 扩展到 8K token，可处理最长 5.5 分钟音频、29 张图像、58 帧视频或这些内容的交错组合。采用模块化设计：文本编码器 270M 参数，视觉编码器 170M 参数，音频编码器 300M 参数，开发者可按需加载。

输出向量维度 768，通过 Matryoshka Representation Learning（MRL）可动态截断至 512、256 或 128 维，存储空间最多减少 6 倍。量化后在 Google Pixel 11 Pro 上，纯文本模型需约 191MB 活跃内存，完整多模态模型需约 567MB。

## 新能力详解

在 MTEB Code 基准中，代码嵌入性能从 68.76 分提升到 78.68 分，提升 9.92 个百分点，适合本地代码库索引、语义代码搜索和编码智能体检索。

在图像、视频、文档和音频任务上，该模型在小于 1B 参数的多模态嵌入模型中达到质量-参数比最高水平，在 MTEB 和 MAEB 等基准上取得同规模模型领先分数，部分任务超越参数量两倍以上的专用模型。

与 Gemma 4 共享文本分词器和音频编码器，两者同时运行时总内存占用更低。可配合 Gemma 4 构建完全在设备端运行的 RAG 管道。

多模态能力支持跨模态检索：用文本或图像在媒体库中查找语义相似内容，用文本或音频定位视频特定时刻，或基于语音备忘录查找视频片段。这些操作由单一模型处理，无需多个独立编码器。

## 怎么用与迁移

模型权重已在 Hugging Face 和 Kaggle 发布，设备端优化版本可在 LiteRT Community on Hugging Face 下载。开发者可使用 Google AI Edge MediaPipe 跨平台开发，或使用 LiteRT 自定义集成。浏览器端可通过 transformers.js 或 WebGPU 部署。

服务端支持：transformers、sentence-transformers、MLX、vLLM、llama.cpp、SGLang、Ollama 和 LMStudio。向量存储可使用 Qdrant。Unsloth 提供微调指导。

迁移注意事项：上下文窗口从 2K 扩展到 8K，输出向量维度保持 768，新增 MRL 截断选项。仅处理文本可继续使用 270M 参数文本编码器；需支持多模态需加载对应模块。量化后内存占用数据基于 Google Pixel 11 Pro，其他设备可能有差异。

## 局限与注意

素材未提及具体任务的绝对精度数值，仅强调"领先"和"质量-参数比最高"，实际应用需根据具体基准评估。模型卡包含完整评测指标，建议生产部署前查阅。

8K token 上下文窗口对长视频或大型文档仍有限制，超出最长 5.5 分钟音频或 58 帧视频范围需分段处理。

MRL 动态截断虽减少存储空间，但截断后向量维度（512、256、128）在语义表达能力上有损失，需在存储效率和检索精度间权衡。素材未说明不同截断级别对性能的具体影响。

Apache 2.0 许可证商业友好，但素材未明确训练数据许可限制，以及能否将模型嵌入其他开源项目。设备端推理内存占用数据是量化后结果，原始精度下内存需求更高，且量化可能影响嵌入质量。

## 对开发者的意义

740M 参数规模和模块化设计使 EmbeddingGemma 2 成为首个实用的设备端多模态嵌入模型。本地推理消除网络延迟，保护数据隐私，支持离线工作。

构建隐私优先 RAG 管道可在消费级硬件上完成：用 EmbeddingGemma 2 索引本地文件，用 Gemma 4 推理，无需上传敏感数据。共享分词器和音频编码器进一步降低组合使用内存成本。

代码嵌入性能提升 9.92 个百分点使本地代码库语义搜索可行，IDE 插件和编程辅助工具可不依赖云服务提供智能代码检索。跨模态检索能力让媒体管理应用用自然语言查询本地照片、视频和录音，或用图片找相似视频片段。

广泛生态支持（transformers、vLLM、llama.cpp、Ollama 等）降低集成门槛。LiteRT 和 MediaPipe 的移动端和浏览器端部署方案使跨平台开发者快速整合多模态嵌入能力。从第一代 2000 万次下载看，轻量级本地嵌入模型满足实际需求，多模态扩展将进一步拓宽应用边界。

Google DeepMind 发布 EmbeddingGemma 2，基于 Gemma 4 架构的 740M 参数多模态嵌入模型。

EmbeddingGemma 2：740M 参数的多模态嵌入模型，支持本地推理

人工智能

开发工具

客户端

EmbeddingGemma2发布，740M参数多模态嵌入模型，支持文本、代码、图像、视频、音频，上下文窗口扩展至8K，输出768维向量且可动态截断至128维。代码嵌入性能提升9.92分，支持设备端RAG和跨模态检索，兼容主流框架，内存占用低至191MB。

网络延迟

数据隐私

敏感数据

智能体

文章

问答

视频

教程

学习中心

腾讯云实验室

直播

竞赛

腾讯云代码分析专区

腾讯iOA零信任安全管理系统专区

腾讯云架构师技术同盟交流圈

腾讯云数据库专区

腾讯云智能顾问专区

腾讯云原生专区

腾讯混元专区

腾讯云TCE专区

腾讯云Lighthouse专区

腾讯云HAI专区

腾讯云Edgeone专区

腾讯云存储专区

腾讯云智能专区

腾讯轻联专区 

腾讯云开发专区

TAPD专区

腾讯轻量云游戏服专区

EdgeOne AI 安全实战专区

腾讯云最具价值专家

腾讯云架构师技术同盟

腾讯云创作之星

腾讯云开发者先锋

腾讯云代码助手

云原生构建

TAPD 敏捷项目管理

Cloud Studio

SDK中心

API中心

命令行工具

涵盖代码开发、场景应用、自动测试全流程，助你从零构建专属AI助手

一站式MCP教程库，解锁AI应用新玩法

聚焦“写作效率、视觉美观与运行性能”三方面进行全面升级，为您提供更高效、稳定的创作环境

社区富文本&Markdown编辑器全新改版上线，欢迎大家体验!

诚挚邀请您参与本次调研，分享您的真实使用感受与建议。您的反馈至关重要，感谢您的支持与参与！

社区新版编辑器体验调研

EmbeddingGemma 2：740M 参数的多模态嵌入模型，支持本地推理-腾讯云开发者社区-腾讯云

EmbeddingGemma 2：740M 参数的多模态嵌入模型，支持本地推理

EmbeddingGemma 2：740M 参数的多模态嵌入模型，支持本地推理

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐