media r/LocalLLaMA · hace 1 h · open_models

Google DeepMind lanza EmbeddingGemma 2, un modelo de incrustación multimodal abierto

Traducido del English → Español

Google DeepMind ha lanzado EmbeddingGemma 2, un modelo de incrustación multimodal de código abierto que mapea texto, código, imágenes, video y audio en un espacio vectorial unificado de 768 dimensiones. El modelo consta de 740 millones de parámetros en total, combinando un codificador de texto de 270M de parámetros con codificadores modulares de visión (170M) y audio (300M).

Diseñado para ejecutarse en hardware de consumo como dispositivos móviles y portátiles para representaciones semánticas de baja latencia.
Admite aplicaciones en el dispositivo, incluyendo búsqueda, generación aumentada por recuperación (RAG), clasificación y agrupamiento.
Disponible como modelo abierto a través de Hugging Face.

Importancia 2/3 r/LocalLLaMA Google DeepMind Multimodal Open weights

Leer original

Google lanza EmbeddingGemma 2, un modelo abierto de primera clase para incrustaciones multimodales nativas

Google ha lanzado EmbeddingGemma 2, un modelo de código abierto diseñado para incrustaciones multimodales nativas.

arxiv arXiv cs.CL · hace 91 d · 24 vistas

Gemma 4 introduce modelos nativamente multimodales con arquitectura unificada sin codificador

Google presenta Gemma 4, una nueva generación de modelos de lenguaje de peso abierto y nativamente multimodales que cuentan con arquitecturas densas y de Mezcla de Expertos (MoE) que van desde 2.3B hasta 31B parámetros.

arxiv Moonshot AI (arXiv) · hace 574 d · 3 vistas

Google lanza modelos multimodales Gemma 3 con contexto de 128K y eficiencia mejorada

Google presenta Gemma 3, una nueva familia de modelos multimodales abiertos y ligeros que van de 1 a 27 mil millones de parámetros. Esta actualización añade comprensión visual, soporte para al menos 128K tokens de contexto y cobertura multilingüe ampliada en comparación con las versiones anteriores.

arxiv arXiv cs.CL · hace 14 h · 17 vistas

Eduardo: RL multi-turn entrena tutores LLM para enseñar mediante post-prueba enmascarada

Los investigadores presentan Eduardo, una receta de aprendizaje por refuerzo multi-turno para entrenar tutores de modelos de lenguaje grandes que aborda el "dilema de la asistencia" donde los modelos tienden a dar respuestas en lugar de enseñar. El método utiliza un post-prueba de transferencia cercana enmascarada y compuertas de recompensa binarias para desalentar la descarga cognitiva y prevenir la entrega de soluciones.

arxiv arXiv cs.CL · hace 6 d · 30 vistas

Index-Translate lanza una familia de modelos multilingües para texto, voz y documentos largos

Los autores presentan Index-Translate, una familia de modelos de traducción multilingüe que combina una base compartida con entrenamiento especializado para traducción general, seguimiento de instrucciones, traducción de voz, doblaje controlado y traducción de documentos largos. La familia incluye modelos de 2B, 9B y 35B-A3B que admiten 150 idiomas.