Gemma 4, 통합 인코더 없는 아키텍처의 네이티브 멀티모달 모델 도입

Google은 2.3B에서 31B 파라미터에 이르는 밀집형 및 Mixture-of-Experts 아키텍처를 갖춘 오픈 가중치, 네이티브 멀티모달 언어 모델의 새로운 세대인 Gemma 4를 소개합니다.

이 스위트에는 모든 크기에 대한 개선된 비전 및 오디오 인코더가 포함되어 있으며, 12B 모델에 대해 원시 오디오와 이미지 패치를 입력하는 통합 인코더 없는 아키텍처를 제안합니다. 또한 응답 전에 추론 트레이스를 생성하는 사고 모드를 통합하여 추론 속도, 메모리, 컴퓨팅 효율성 및 장기 컨텍스트 능력을 개선했습니다.

Gemma 4는 STEM, 멀티모달 및 장기 컨텍스트 벤치마크 전반에서 성능의 도약을 이루며, 인간 평가 작업에서 더 큰 프론티어 오픈 모델과 경쟁합니다.