SheepNav
谷歌全新 Gemma 4 12B 模型:16GB 内存笔记本即可运行
新上线今天0 投票

谷歌全新 Gemma 4 12B 模型:16GB 内存笔记本即可运行

谷歌近日发布了 Gemma 4 系列的新成员——Gemma 4 12B,这是一款专为消费级硬件优化的中型模型,仅需 16GB 系统内存或显存即可在普通笔记本电脑上流畅运行。

该模型填补了此前 Gemma 4 产品线的空白:它比移动端模型(E2B、E4B)能力更强,又不像 26B MoE 和 31B Dense 那样对硬件要求苛刻。谷歌表示,12B 模型在推理、多步推理和智能体工作流等任务上表现接近更大的版本,同时保持了极低的资源占用。

核心技术亮点

  • 多令牌预测(MTP):Gemma 4 12B 是首个原生内置 MTP 的 Gemma 模型,能够利用闲置计算周期预判后续 token,从而提升生成速度和效率。
  • 简化视觉编码:采用单矩阵乘法与位置嵌入的轻量级视觉嵌入模块,替代传统的专用编码器,显著降低延迟和内存占用。

行业意义

在大模型军备竞赛推动显存价格飙升的背景下,谷歌此举为本地化 AI 应用提供了更务实的选择。开发者无需昂贵加速器,即可在主流消费硬件上部署具备多模态能力的模型,这对边缘计算、隐私敏感场景和中小企业尤为友好。

目前 Gemma 4 12B 已通过 Apache 2.0 许可证开源发布,开发者可立即在 Hugging Face 等平台获取。

延伸阅读

  1. Alphabet 创纪录的 850 亿美元融资:AI 市场的强力信号
  2. 8TB SanDisk SSD 在 Best Buy 直降超千美元,编辑强烈推荐
  3. Google Dreambeans:用AI把你的生活变成卡通故事
查看原文