media r/LocalLLaMA · 1 jam lalu · open_models

Meituan merilis LongCat-Flash-Lite-Sparse dengan jendela konteks 1M

Diterjemahkan dari English → Bahasa Indonesia

Meituan telah merilis bobot untuk LongCat-Flash-Lite-Sparse, varian baru dari model LongCat-Flash-Lite-nya. Pembaruan ini memperkenalkan LongCat Sparse Attention (LSA) untuk menggantikan MLA padat dan memperluas dukungan panjang konteks asli hingga 1 juta token.

Mengganti Multi-Head Latent Attention padat dengan LongCat Sparse Attention (LSA).
Mendukung panjang konteks hingga 1M token secara native, dibandingkan batas sebelumnya sebesar 256k.
Bobot kini tersedia untuk diunduh di Hugging Face.

Kepentingan 2/3 r/LocalLLaMA Inference efficiency Open weights

Baca aslinya

Tencent merilis AngelSpec, kerangka pelatihan terpadu untuk MTP dan decoding spekulatif paralel blok

Tencent telah membuka sumber kode AngelSpec, sebuah kerangka pelatihan berbasis torch yang mendukung prediksi multi-token autoregresif (MTP) serta drafter keluarga DFlash-paralel blok untuk model Hy3. Sistem ini menganggap heterogenitas beban kerja sebagai kendala desain utama, memungkinkannya mengkhususkan struktur, data pelatihan, dan kedalaman verifikasi berdasarkan kasus penggunaan tertentu.

lab Liquid AI · 4 hari lalu

Liquid AI merilis LFM2.5-Encoders untuk inferensi konteks panjang cepat di CPU

Liquid AI telah merilis dua model encoder baru, LFM2.5-Encoder-230M dan LFM2.5-Encoder-350M, yang dirancang untuk memberikan encoding bidirectional berkualitas tinggi dengan penskalaan efisien hingga panjang konteks 8.192 token.

lab Hugging Face Blog · 4 hari lalu

Liquid AI merilis LFM2.5-Encoders untuk inferensi konteks panjang cepat di CPU

Liquid AI telah merilis dua model encoder dengan bobot terbuka, LFM2.5-Encoder-230M dan LFM2.5-Encoder-350M, yang dirancang untuk inferensi konteks panjang yang efisien pada CPU. Model-model ini mendukung konteks 8.196 token dan dibangun dengan mengubah backbone decoder LFM2 menjadi encoder bidirectional menggunakan pemodelan bahasa tersembunyi.

lab Tencent Hunyuan (HF) · 9 hari lalu · 2 tayangan

Tencent membuka sumber model terjemahan multibahasa Hy-MT2 dan IFMTBench

Tencent telah merilis keluarga model terjemahan multibahasa "berpikir cepat" Hy-MT2, termasuk ukuran 1.8B, 7B, dan 30B-A3B (MoE), bersama dengan benchmark IFMTBench untuk mengevaluasi kemampuan mengikuti instruksi.

media MarkTechPost · 15 hari lalu · 5 tayangan

PrismML merilis Bonsai 27B, mengompresi Qwen3.6-27B ke bobot 1-bit dan ternary

PrismML telah merilis Bonsai 27B, sebuah kuantisasi bit-rendah dari model Qwen3.6-27B yang memungkinkan menjalankan model multimodal besar di laptop dan ponsel tanpa pelatihan ulang.