谷歌在 Hugging Face 上开源了多模态嵌入模型 EmbeddingGemma 2，模型总参数量为 740M，基于 Gemma 4 架构演进，专为手机和笔记本等端侧设备设计。
这个模型昨天登上了热门榜榜首，核心优势就在于对运行环境的要求极低，如下：
- 纯文本，参数量 270M，bfloat16 显存 / 内存占用约 600MB - 1GB
- 文本 + 图像，参数量 440M，bfloat16 显存 / 内存占用约 1GB - 1.5GB
- 文本 + 音频，参数量 570M，bfloat16 显存 / 内存占用约 1.2GB - 2GB
- 全模态，参数量 740M，bfloat16 显存 / 内存占用约 1.8GB - 3GB
也就是说，只要设备的显存/内存有 4G 空间，就能完整的运行这个模型，主流旗舰手机跑起来也毫无压力。
接下来说一下技术细节。
以往做跨模态检索或者端侧 RAG，往往需要维护多个专用的 Embedding 模型，向量空间彼此割裂。比如做本地相册搜索，需要用视觉模型给图片写描述，将语音转为文字，最后拿用文本模型检索描述。
而 EmbeddingGemma 2 把文本、代码、图像、音频和视频统一映射到同一个 768 维的向量空间，允许在单次输入中混合图文音视频，共享 8K 上下文，让端侧直接运行跨模态搜索和离线多模态知识库成为可能。
比如输入一句话「去年在海边拍的落日」，或者丢一段哼唱旋律，模型就能直接穿透模态，定位到本地文件里的具体视频画面或录音片段。
这让端侧 RAG 和个人助理类硬件不再需要把数据上传云端，彻底实现了本地隐私运行。
模型在工程架构上做了模块化解耦，740M 的总参数中，文本底座占 270M，视觉编码器占 170M，音频编码器占 300M。
如果只需要纯文本或图文检索，可以在加载时直接剔除不需要的编码器，把显存占用降到最低。同时模型原生支持嵌套表示学习，向量维度可以截断到 512、256 甚至 128 维。
降到 256 维时检索质量几乎没有损失，却能将向量存储成本直接压缩到原来的三分之一。直接收益就是普通轻薄本甚至手机本地轻量数据库里，能以极低的延迟顺畅检索数十万条多模态记录。
唯一算不得缺陷的缺陷就是，上下文只有 8K，音频每秒吃掉 25 个 Token，所以长音视频必须先切片再建库。问题是都这样了，还要啥自行车呢？