media r/LocalLLaMA · 2 hari lalu · open_models

inclusionAI merilis model multimodal Ling-3.0-flash-VL

Diterjemahkan dari English → Bahasa Indonesia

inclusionAI telah merilis model open-source Ling-3.0-flash-VL, yang memperluas kemampuan bahasa dan penalaran pendahulunya dengan pemahaman gambar dan video secara native.

Model 124B parameter ini hanya mengaktifkan 5.5B parameter per token dan mendukung jendela konteks hingga 1M token. Arsitekturnya mencakup encoder visual ViT yang diluruskan melalui projector MLP, VideoRoPE untuk pengodean temporal, dan backbone hibrida yang bergantian antara lapisan KDA dan Gated MLA.

Desain ini mengintegrasikan informasi visual ke dalam penalaran dunia nyata dan alur kerja agentic sambil mempertahankan efisiensi inferensi melalui Mixture of Experts yang sparse.

Kepentingan 2/3 r/LocalLLaMA Multimodal Open weights

Baca aslinya

DeepSeek merilis V4-1 Flash, model MoE 552B dengan konteks 1M token

DeepSeek telah merilis model barunya, DeepSeek V4-1 Flash. Ini adalah model Mixture-of-Experts (MoE) multimodal yang memiliki backbone dengan 552 miliar parameter.

lab Hugging Face Blog · 7 hari lalu · 18 tayangan

NeoMME merilis encoder multimodal efisien dengan retrieval dense dan late-interaction

Para peneliti memperkenalkan NeoMME, sebuah keluarga encoder multimodal multilingual berukuran 260M dan 800M yang memproses teks dan patch gambar mentah menggunakan satu Transformer bidirectional. Berbeda dengan model bahasa visual generatif, NeoMME tidak bergantung pada menara visi pretrained terpisah atau decoder kausal, melainkan melatih seluruh model dari awal dengan tujuan discrete-diffusion termaskir.

media r/LocalLLaMA · 10 hari lalu · 6 tayangan

DeepSeek merilis DeepSeek-V4-Flash-Vision-Exp di Hugging Face

DeepSeek telah menerbitkan checkpoint model DeepSeek-V4-Flash-Vision-Exp di Hugging Face. Repositori sekarang tersedia untuk akses publik.

media MarkTechPost · 15 hari lalu · 40 tayangan

Tim Qwen Alibaba merilis Qwen3.8-Flash-Next, pratinjau MoE 125B yang mendahului Qwen4

Tim Qwen Alibaba telah merilis Qwen3.8-Flash-Next, model Mixture-of-Experts multimodal berbobot terbuka yang dirancang untuk mendahului arsitektur seri Qwen4 mendatang. Titik pemeriksaan ini menggabungkan tulang punggung 125B dengan tabel embedding N-gram 51B dan modul prediksi multi-token 4B, mengaktifkan hanya 6B parameter per token.

media r/LocalLLaMA · 15 hari lalu · 57 tayangan

Zhipu AI merilis GLM-5.3-Flash, model bobot terbuka multimodal

Zhipu AI telah merilis GLM-5.3-Flash, model multimodal asli pertama dalam seri GLM-5 dan rilis bobot terbuka pertama dari arsitektur glm5_next. Model dengan 320B parameter ini dilatih pada korpus multimodal berukuran 30T token dan memiliki mekanisme perhatian hibrida yang menggabungkan pendekatan sparse dan linear untuk mengurangi biaya penyajian konteks panjang.