Google 推出 Gemma 4,这是一个新一代的开放权重、原生多模态语言模型系列,包含密集型和混合专家(Mixture-of-Experts)架构,参数量从 2.3B 到 31B 不等。
该套件为所有尺寸提供了改进的视觉和音频编码器,并为 12B 模型提出了一种统一的无编码器架构,可直接处理原始音频和图像块。它还集成了思考模式,可在响应前生成推理轨迹,同时提升推理速度、内存使用、计算效率以及长上下文处理能力。
Gemma 4 在 STEM、多模态和长上下文基准测试中实现了性能飞跃,在人工评分任务中与更大的前沿开放模型相媲美。