lab DeepSeek (Hugging Face) · 591 hari lalu

DeepSeek merilis model bahasa V3 MoE dengan 671B parameter

Diterjemahkan dari English → Bahasa Indonesia

DeepSeek telah merilis DeepSeek-V3, sebuah model bahasa Mixture-of-Experts (MoE) yang memiliki total 671 miliar parameter dengan 37 miliar diaktifkan per token. Model ini dilatih pada 14,8 triliun token dan memanfaatkan Multi-head Latent Attention serta strategi penyeimbangan beban tanpa kerugian tambahan.

DeepSeek-V3 mencapai kinerja yang sebanding dengan model sumber tertutup terkemuka sambil hanya memerlukan 2,788M jam GPU H800 untuk pelatihan.
Model ini menggabungkan tujuan Prediksi Multi-Token (MTP) dan mendistilasi kemampuan penalaran dari seri DeepSeek-R1.
Model ini mendukung inferensi melalui pustaka seperti Transformers, vLLM, SGLang, dan LMDeploy.

Rilis ini menyediakan akses sumber terbuka ke model dasar berkinerja tinggi dengan kemampuan matematika dan kode yang kuat.

Kepentingan 3/3 DeepSeek (Hugging Face) DeepSeek Open weights Reasoning models

Baca aslinya

DeepSeek-R1-0528 meningkatkan penalaran dan akurasi AIME menjadi 87,5%

DeepSeek telah merilis DeepSeek-R1-0528, sebuah peningkatan versi minor yang secara signifikan meningkatkan kedalaman penalaran dan kemampuan inferensi melalui peningkatan sumber daya komputasi dan optimisasi algoritmik selama pasca-pelatihan.

lab DeepSeek (Hugging Face) · 503 hari lalu

DeepSeek-V3-0324 meningkatkan kemampuan penalaran, pemrograman, dan penulisan bahasa Mandarin dibandingkan DeepSeek-V3

DeepSeek telah merilis DeepSeek-V3-0324, sebuah pembaruan model yang menunjukkan peningkatan signifikan dibandingkan pendahulunya, DeepSeek-V3, khususnya dalam kemampuan penalaran, eksekusi kode, dan kemahiran penulisan bahasa Mandarin.

media InfoQ · 551 hari lalu

DeepSeek membuka kode sumber LLM DeepSeek-R1 dengan kinerja yang sebanding dengan OpenAI o1

DeepSeek telah membuka kode sumber DeepSeek-R1, sebuah model bahasa besar yang dihaluskan menggunakan pembelajaran penguatan untuk meningkatkan kemampuan penalaran. Model ini mencapai hasil yang setara dengan OpenAI o1 pada benchmark seperti MATH-500 dan SWE-bench.

media The Batch · 2 hari lalu · 1 tayangan

DeepSeek merilis V4-Flash-0731, melampaui V4-Pro dengan biaya lebih rendah

DeepSeek telah merilis DeepSeek-V4-Flash-0731, versi pembaruan dari model "Flash" berukuran lebih kecil yang mengungguli DeepSeek-V4-Pro yang lebih besar pada benchmark independen. Rilis ini memanfaatkan proses fine-tuning baru sambil mempertahankan arsitektur Mixture-of-Experts asli dengan total 284 miliar parameter.

media r/LocalLLaMA · 6 hari lalu · 16 tayangan

AI9Stars merilis G9v3-39A5B, model bobot terbuka dengan 39B parameter dan 5 ahli aktif

AI9Stars telah merilis G9v3-39A5B, sebuah model bahasa bobot terbuka yang dirancang untuk memberikan kemampuan penalaran yang lebih kuat dibandingkan pendahulunya, ai9stars/G9v3-3B. Model ini memiliki 39 miliar parameter dan 5 ahli aktif serta dilisensikan di bawah Apache 2.0 untuk penggunaan pribadi dan komersial.