2026 年 10 月 6 日，Google DeepMind 發布 EmbeddingGemma 2，一款將文字、程式碼、圖片、視訊與音訊統一映射至共享向量空間的開源嵌入模型。這是 EmbeddingGemma 系列的重大升級——前代僅支援文字嵌入，但已累積超過 2,000 萬次下載。新版直接將五種模態整合於單一模型，無需拼接多個獨立編碼器。
模型架構：模組化設計的邊緣友善方案
EmbeddingGemma 2 基於 Gemma 4 架構，總參數 7.4 億（740M），但採用模組化設計：
| 模態組合 | 啟用參數量 | 記憶體需求（量化後，Pixel 11 Pro） |
|---|---|---|
| 純文字/程式碼 | 270M | ~191MB |
| 文字 + 視覺 | 440M | — |
| 文字 + 音訊 | 570M | — |
| 完整多模態 | 740M | ~567MB |
這種設計讓開發者可僅載入所需模組——純文字應用不必付出視覺或音訊編碼器的記憶體成本。
核心規格
- 上下文視窗：8,192 tokens（前代的 4 倍），可一次性處理約 5.5 分鐘音訊、29 張圖片、58 幀視訊，或上述組合的交叉輸入
- 輸出向量維度：768 維（原生），支援 Matryoshka Representation Learning（MRL）動態截斷至 512、256 或 128 維
- 注意力機制：GQA/MQA 混合注意力，5:1 的 local:global 層比例
- 詞彙表大小：262,144 tokens
- 授權：Apache 2.0，商用自由
基準成績：小體量的多模態領先者
EmbeddingGemma 2 在標準嵌入基準上表現突出，尤其在程式碼領域取得顯著進步：
| 基準 | EmbeddingGemma 2 | EmbeddingGemma 1 | 變化 |
|---|---|---|---|
| MTEB Code v1 | 78.68 | 68.76 | +9.92 |
| MTEB 多語言 v2 | 61.36 | 61.15 | +0.21 |
| MIEB lite（圖片） | 64.64 | n/a | 新基準 |
| MMEB v2 總體 | 59.01 | n/a | 新基準 |
| MSEB 檢索（聲音） | 69.54 | n/a | 新基準 |
| MAEB（音訊） | 49.39 | n/a | 新基準 |
Google 報告，EmbeddingGemma 2 在 10 億參數以下的多模態嵌入模型中取得領先成績，並在某些任務上超越體量大兩倍以上的專用模型。
輸出截斷的實際取捨
透過 MRL 技術，開發者可在降低儲存成本與維持品質之間靈活調整：
| 輸出維度 | 儲存壓縮比 | 多模態檢索品質保留 |
|---|---|---|
| 768d（完整） | 1:1 | 100% |
| 256d | ~1:3 | ~95% |
| 128d | ~1:6 | ~75-90%（視模態而定） |
對於大規模向量資料庫，100 萬條 768 維向量需約 1.5GB 儲存空間；截斷至 128 維後降至約 250MB，可節省高達 6 倍 空間。
混合輸入：真正的跨模態檢索
EmbeddingGemma 2 的核心設計突破在於支援交錯式輸入——在同一呼叫中混合文字、圖片、視訊與音訊，產出單一嵌入向量：
"防水跑鞋 <|image|> 採用透氣網布鞋面 <|image|> 濕地抓地測試 <|video|>"這使得單一模態查詢（如「適合越野跑的防水鞋」）可直接比對包含多種媒體的產品嵌入，無需多階段檢索管線。
生態系支援與部署路線
EmbeddingGemma 2 的權重已上傳至 Hugging Face 與 Kaggle，並獲得廣泛的生態系支援：
- 推理框架：Transformers、sentence-transformers v6.1.0+、vLLM、SGLang、llama.cpp、Ollama、LM Studio
- 邊緣部署：MediaPipe UniversalEmbedder、LiteRT、transformers.js
- 向量資料庫：Qdrant
- 微調工具：Unsloth
- 即將支援：ML Kit Android（含 NPU 加速）、Gemini Enterprise Agent Platform Model Garden
與 Gemma 4 的協同效應
由於 EmbeddingGemma 2 與 Gemma 4 共用文字 tokenizer 與音訊編碼器，開發者可將兩個模型搭配建構完全在終端運行的 RAG 管線，總記憶體足跡低於運行兩個不相關模型。Google 的內部應用 AI Edge Foresight 已將兩者結合使用。
產業意義
EmbeddingGemma 2 的發布在數個層面上影響 AI 開發生態：
- 邊緣 AI 的基礎設施升級：多模態嵌入首次可在手機端離線完成，為隱私優先的本地搜尋、媒體分類與 RAG 應用鋪平道路。開發者無需再將音訊與視訊上傳至雲端 API
- 開源嵌入模型的標準化：Apache 2.0 授權與廣泛的框架支援，使 EmbeddingGemma 2 有潛力成為多模態嵌入的業界標準基礎元件
- 向量資料庫的儲存效率突破：MRL 技術將大型向量索引的儲存成本降低一個數量級，使邊緣裝置的本地向量資料庫變得更現實
- 檢索增強生成（RAG）的模態擴展：傳統 RAG 僅限文字檢索，EmbeddingGemma 2 將檢索範圍擴展至圖片、音訊與視訊，為多模態 AI 應用的資訊檢索層提供統一的解決方案
對於香港開發者而言，這款開源模型的即時價值在於：一條 pip install 指令即可在本地部署具備多模態嵌入能力的應用，無需 API 金鑰或雲端成本，特別適合注重資料私隱的金融、法律與醫療場景。
本文信息來源：Google DeepMind Blog、Google AI Developer Blog、SiliconAngle、MarkTechPost、Hugging Face Model Card。