github vLLM · 1 jam lalu · inference

v0.29.0rc2 memperbaiki cache pekerja SHM untuk item yang dicakup awalan

Diterjemahkan dari English → Bahasa Indonesia

Rilis v0.29.0rc2 menyertakan perbaikan bug untuk cache pekerja SHM agar dapat menangani item yang dicakup awalan dengan benar.

Menyelesaikan masalah di mana item yang dicakup awalan tidak ditangani dengan benar dalam cache pekerja SHM.

Kepentingan 1/3 Kepercayaan 2/3 vLLM Multimodal

Baca aslinya

DeepSeek merilis DeepSeek-V4-Flash-Vision-Exp di Hugging Face

DeepSeek telah menerbitkan checkpoint model DeepSeek-V4-Flash-Vision-Exp di Hugging Face. Repositori sekarang tersedia untuk akses publik.

media MarkTechPost · 8 hari lalu · 27 tayangan

Tim Qwen Alibaba merilis Qwen3.8-Flash-Next, pratinjau MoE 125B yang mendahului Qwen4

Tim Qwen Alibaba telah merilis Qwen3.8-Flash-Next, model Mixture-of-Experts multimodal berbobot terbuka yang dirancang untuk mendahului arsitektur seri Qwen4 mendatang. Titik pemeriksaan ini menggabungkan tulang punggung 125B dengan tabel embedding N-gram 51B dan modul prediksi multi-token 4B, mengaktifkan hanya 6B parameter per token.

media r/LocalLLaMA · 8 hari lalu · 37 tayangan

Zhipu AI merilis GLM-5.3-Flash, model bobot terbuka multimodal

Zhipu AI telah merilis GLM-5.3-Flash, model multimodal asli pertama dalam seri GLM-5 dan rilis bobot terbuka pertama dari arsitektur glm5_next. Model dengan 320B parameter ini dilatih pada korpus multimodal berukuran 30T token dan memiliki mekanisme perhatian hibrida yang menggabungkan pendekatan sparse dan linear untuk mengurangi biaya penyajian konteks panjang.

lab Zhipu / Z.ai (GLM, HF) · 8 hari lalu · 32 tayangan

Zai merilis GLM-5.3-Flash, model multimodal 320B dengan perhatian linear jarang

Zai telah memperkenalkan GLM-5.3-Flash, model multimodal asli pertama dalam seri GLM-5. Model ini memiliki arsitektur hibrida yang menggabungkan perhatian jarang dan linear untuk mengurangi biaya layanan konteks panjang sambil mempertahankan kemampuan yang presisi.

lab Zhipu / Z.ai (GLM, HF) · 8 hari lalu · 28 tayangan

ZhiPu merilis GLM-5.3-Flash, model multimodal dengan 320B parameter

ZhiPu memperkenalkan GLM-5.3-Flash, model multimodal asli pertama dalam seri GLM-5, yang menggunakan arsitektur hibrida yang menggabungkan perhatian sparse dan linear untuk mengurangi biaya layanan konteks panjang sambil mempertahankan presisi.