media r/LocalLLaMA · 1 jam lalu · open_models

Google DeepMind merilis EmbeddingGemma 2, model embedding multimodal terbuka

Diterjemahkan dari English → Bahasa Indonesia

Google DeepMind telah merilis EmbeddingGemma 2, sebuah model embedding multimodal sumber terbuka yang memetakan teks, kode, gambar, video, dan audio ke dalam ruang vektor terpadu 768 dimensi. Model ini terdiri dari total 740 juta parameter, menggabungkan encoder teks 270M parameter dengan encoder visi (170M) dan audio (300M) modular.

Dirancang untuk berjalan pada perangkat konsumen seperti perangkat seluler dan laptop untuk representasi semantik latensi rendah.
Mendukung aplikasi on-device termasuk pencarian, generasi yang diperkaya pengambilan (RAG), klasifikasi, dan pengelompokan.
Tersedia sebagai model terbuka melalui Hugging Face.

Kepentingan 2/3 r/LocalLLaMA Google DeepMind Multimodal Open weights

Baca aslinya

Google merilis EmbeddingGemma 2, model terbuka terbaik di kelasnya untuk embedding multimodal asli

Google telah merilis EmbeddingGemma 2, sebuah model open-source yang dirancang untuk embedding multimodal asli.

arxiv arXiv cs.CL · 91 hari lalu · 24 tayangan

Gemma 4 memperkenalkan model multimodal asli dengan arsitektur tanpa encoder yang terpadu

Google memperkenalkan Gemma 4, generasi baru model bahasa berbobot terbuka dan multimodal asli yang dilengkapi dengan arsitektur padat dan Mixture-of-Experts, mulai dari 2,3B hingga 31B parameter.

arxiv Moonshot AI (arXiv) · 574 hari lalu · 3 tayangan

Google merilis model multimodal Gemma 3 dengan konteks 128K dan efisiensi yang lebih baik

Google memperkenalkan Gemma 3, keluarga baru model multimodal terbuka ringan yang berkisar dari 1 hingga 27 miliar parameter. Pembaruan ini menambahkan pemahaman visual, dukungan untuk setidaknya 128K token konteks, dan cakupan multibahasa yang lebih luas dibandingkan versi sebelumnya.

arxiv arXiv cs.CL · 14 jam lalu · 17 tayangan

Eduardo: RL multi-gilir melatih tutor LLM untuk mengajar melalui post-test tersembunyi

Para peneliti memperkenalkan Eduardo, sebuah resep pembelajaran penguatan multi-gilir untuk melatih tutor model bahasa besar yang mengatasi "dilema bantuan" di mana model cenderung memberikan jawaban daripada mengajar. Metode ini menggunakan post-test transfer-dekat tersembunyi dan gerbang hadiah biner untuk mencegah offloading kognitif dan menghindari penyerahan solusi.

arxiv arXiv cs.CL · 6 hari lalu · 30 tayangan

Index-Translate merilis keluarga model multibahasa untuk teks, suara, dan dokumen panjang

Para penulis memperkenalkan Index-Translate, sebuah keluarga model terjemahan multibahasa yang menggabungkan fondasi bersama dengan pelatihan khusus untuk terjemahan umum, mengikuti instruksi, terjemahan suara, dubbing terkontrol, dan terjemahan dokumen panjang. Keluarga ini mencakup model 2B, 9B, dan 35B-A3B yang mendukung 150 bahasa.