Google推出了EmbeddingGemma 2，这是一个开源的多模态嵌入模型，将代码、图像、视频和音频统一在共享空间中。该模型基于拥有7.4亿参数的Gemma 4架构构建，采用商业友好的Apache 2.0许可证，专为高效的设备端推理而设计。

  • 在MTEB Code和MAEB基准测试中，在参数量低于10亿的多模态嵌入器中取得了领先的分数。
  • 模块化设计允许纯文本负载仅使用2.7亿参数运行，并可选配视觉和音频编码器。
  • 采用Matryoshka Representation Learning技术，将向量从768维截断至128维，最多可减少6倍的存储空间。
  • 在Google Pixel 11 Pro上，纯文本权重仅需约191MB的活跃内存。
  • 具备8K token的上下文窗口，是上一代版本的四倍大。

该模型完全在边缘硬件上实现强大的语义搜索和检索，确保数据隐私并降低流水线延迟。当与Gemma 4等生成式模型配合使用时，它促进了处理复杂多模态数据的设备端RAG流水线。