Google presenta Gemma 4, una nueva generación de modelos de lenguaje de peso abierto y nativamente multimodales que cuentan con arquitecturas densas y de Mezcla de Expertos (MoE) que van desde 2.3B hasta 31B parámetros.
La suite incluye codificadores de visión y audio mejorados para todos los tamaños y propone una arquitectura unificada sin codificador para el modelo de 12B que ingiere parches de audio e imagen en bruto. También integra un modo de pensamiento para generar trazas de razonamiento antes de responder, mientras mejora la velocidad de inferencia, memoria, eficiencia computacional y capacidades de contexto largo.
Gemma 4 establece un salto en el rendimiento a través de benchmarks STEM, multimodales y de contexto largo, rivalizando con modelos abiertos de vanguardia más grandes en tareas calificadas por humanos.