media r/LocalLLaMA · 1시간 전 · open_models

Google, 네이티브 멀티모드 임베딩을 위한 최상급 오픈 모델 EmbeddingGemma 2 출시

번역 English → 한국어

Google은 네이티브 멀티모드 임베딩을 위해 설계된 오픈소스 모델인 EmbeddingGemma 2를 출시했습니다.

이번 출시로 새로운 모델은 통합 임베딩 공간 내에서 텍스트와 이미지 데이터를 처리하기 위한 최상급 옵션으로 자리매김했습니다.

중요도 2/3 r/LocalLLaMA Google DeepMind Multimodal Open weights

Google DeepMind, 오픈 멀티모드 임베딩 모델 EmbeddingGemma 2 출시

Google DeepMind은 텍스트, 코드, 이미지, 비디오, 오디오를 통합된 768차원 벡터 공간으로 매핑하는 오픈소스 멀티모드 임베딩 모델인 EmbeddingGemma 2를 출시했습니다. 이 모델은 총 7억 4천만 개의 파라미터로 구성되며, 2억 7천만 파라미터 텍스트 인코더와 모듈식 비전(1억 7천만) 및 오디오(3억) 인코더를 결합합니다.

arxiv arXiv cs.CL · 91일 전 · 조회수 24회

Gemma 4, 통합 인코더 없는 아키텍처의 네이티브 멀티모달 모델 도입

Google은 2.3B에서 31B 파라미터에 이르는 밀집형 및 Mixture-of-Experts 아키텍처를 갖춘 오픈 가중치, 네이티브 멀티모달 언어 모델의 새로운 세대인 Gemma 4를 소개합니다.

arxiv Moonshot AI (arXiv) · 574일 전 · 조회수 3회

구글, 128K 컨텍스트와 향상된 효율성을 갖춘 Gemma 3 멀티모달 모델 출시

구글은 10억 개에서 270억 개의 파라미터에 이르는 경량의 오픈 멀티모달 모델 신제품군인 Gemma 3을 소개합니다. 이번 업데이트는 이전 버전 대비 시각 이해 기능, 최소 128K 토큰의 컨텍스트 지원, 그리고 확장된 다국어 커버리지를 추가합니다.

media r/LocalLLaMA · 방금 실시간

EmpirioLabs가 100만 토큰 컨텍스트를 갖춘 5.3B 의사결정 모델 Aplomb 1 출시

EmpirioLabs는 단일 요청으로 텍스트, JSON, 이미지, 비디오, 오디오를 처리할 수 있는 1M 토큰 컨텍스트 창을 갖춘 오픈 웨이트 5.3B 의사결정 모델인 Aplomb 1을 출시했습니다.

arxiv arXiv cs.CL · 15시간 전 · 조회수 17회

에두아르도: 다중 턴 RL이 마스킹된 사후 테스트를 통해 LLM 튜터가 가르치도록 훈련

연구진은 "보조 딜레마"를 해결하는 대규모 언어 모델(Large Language Model) 튜터를 훈련하기 위한 다중 턴 강화 학습(Reinforcement Learning) 방법론인 에두아르도(Eduardo)를 소개합니다. 이 딜레마에서는 모델이 가르치는 대신 정답을 제공하는 경향이 있습니다. 이 방법은 마스킹된 근접 전이 사후 테스트와 이진 보상 게이트(binary reward gates)를 사용하여 인지적 외부 처리(cognitive offloading)를 억제하고 솔루션 전달(solution handover)을 방지합니다.