media Latent Space · baru saja · agents

DeepSeek merilis v4.1-Flash dengan arsitektur 763B-P8B-D16B untuk inferensi efisien

Diterjemahkan dari English → Bahasa Indonesia

DeepSeek telah meluncurkan DeepSeek v4.1-Flash, model unggulan bobot terbuka baru yang menampilkan arsitektur kausal encoder-decoder novel yang dirancang untuk memaksimalkan efisiensi inferensi dan mengurangi biaya.

Model ini menggunakan struktur campuran ahli dengan 763 miliar parameter total, tetapi hanya mengaktifkan 8B parameter untuk pemrosesan input dan 16B untuk generasi output. Desain ini mencapai sparsity 1-2% dan mengurangi jejak cache KV menjadi seperdelapan dari model V4 Flash sebelumnya. Model ini mendukung jendela konteks 1M token dengan input teks dan gambar di bawah lisensi MIT.

Benchmark independen dari Artificial Analysis dan Vals peringkat v4.1-Flash sebagai model bobot terbuka teratas, mengutip rasio biaya-kinerja yang unggul dengan harga $0.30 per juta token input.

Kepentingan 3/3 Latent Space DeepSeek Inference efficiency Open weights

Baca aslinya

DeepSeek merilis DeepSeek-V4.1-Flash dengan konteks 1M dan cache KV FP4

DeepSeek AI telah merilis DeepSeek-V4.1-Flash, sebuah model Mixture-of-Experts multimodal yang dilengkapi jendela konteks 1 juta token dan cache KV FP4 yang mengurangi jejak cache global menjadi 890 byte per token. Model ini memanfaatkan arsitektur encoder-decoder kausal dan Compressed Sparse Attention 2 (CSA2) untuk secara signifikan menurunkan kebutuhan memori sambil mempertahankan kinerja.

media r/LocalLLaMA · 69 hari lalu · 10 tayangan

DeepSeek merilis GGUF V4 Flash 2, 3 dan 4 bit

Seorang pengguna telah mengirimkan tautan ke repositori Hugging Face yang berisi model DeepSeek V4 Flash yang dikonversi ke format GGUF pada kuantisasi 2, 3, dan 4-bit.

lab DeepSeek (Hugging Face) · 348 hari lalu · 10 tayangan

DeepSeek merilis DeepSeek-V3.2-Exp dengan Sparse Attention untuk efisiensi konteks panjang

DeepSeek-AI telah merilis DeepSeek-V3.2-Exp, sebuah model eksperimental yang memperkenalkan DeepSeek Sparse Attention (DSA) untuk meningkatkan efisiensi pelatihan dan inferensi dalam skenario konteks panjang.

media r/LocalLLaMA · 2 hari lalu · 4 tayangan

DeepSeek merilis V4-1 Flash, model MoE 552B dengan konteks 1M token

DeepSeek telah merilis model barunya, DeepSeek V4-1 Flash. Ini adalah model Mixture-of-Experts (MoE) multimodal yang memiliki backbone dengan 552 miliar parameter.

media r/LocalLLaMA · 2 hari lalu · 13 tayangan

DeepSeek merilis V4.1 Flash, model MoE 552B dengan biaya lebih rendah dan kecepatan lebih tinggi

DeepSeek telah resmi merilis model DeepSeek V4.1 Flash, entri terkecil dalam seri arsitektur barunya yang memiliki pemahaman visual multimodal asli. Dibangun di atas desain Causal-Encoder-Decoder, ini adalah model Mixture of Experts (MoE) dengan 552B parameter yang hanya mengaktifkan 8B parameter pada sisi input dan 16B pada sisi output.