
谷歌正式推出 EmbeddingGemma 2,将嵌入能力从文本扩展到代码、图像、视频和音频,并统一映射到同一个嵌入空间。该模型基于 Gemma 4 架构开发,采用商业友好的 Apache 2.0 许可发布,总参数为 7.4 亿,适合端侧推理。
据谷歌介绍,EmbeddingGemma 2 采用模块化设计:纯文本任务仅需 2.7 亿参数,可按需添加 1.7 亿参数的视觉编码器和 3 亿参数的音频编码器,从而实现完整多模态支持。模型配备 8K Token 上下文窗口,比初代 EmbeddingGemma 大 4 倍。
存储方面,该模型借助 Matryoshka 表示学习,开发者可将输出向量从 768 维动态截断至 512、256 或 128 维,本地向量数据库存储和内存占用最高可缩减 6 倍。端侧性能上,量化后在谷歌 Pixel 11 Pro 上,纯文本权重仅需约 191 MB 运行内存,完整多模态模型约需 567 MB。
性能方面,EmbeddingGemma 2 保留前代多语言文本能力,代码性能在 MTEB Code 测试中从 68.76 提升至 78.68。谷歌称其在子 1B 参数多模态嵌入模型中取得领先分数,适合本地代码库索引、语义代码搜索和编程代理检索。
开发者可在 Hugging Face 和 Kaggle 下载模型权重,后续将登陆 Gemini Enterprise Agent Platform Model Garden,并可通过 Google AI Edge MediaPipe、LiteRT 及 transformers.js、WebGPU 等方案开发应用。
https://www.ithome.com/1/010/125.htm
来源: 来源:IT之家
标签: AI、科技