media InfoQ · 551 hari lalu

DeepSeek membuka kode sumber LLM DeepSeek-R1 dengan kinerja yang sebanding dengan OpenAI o1

Diterjemahkan dari English → Bahasa Indonesia

DeepSeek telah membuka kode sumber DeepSeek-R1, sebuah model bahasa besar yang dihaluskan menggunakan pembelajaran penguatan untuk meningkatkan kemampuan penalaran. Model ini mencapai hasil yang setara dengan OpenAI o1 pada benchmark seperti MATH-500 dan SWE-bench.

Berdasarkan campuran ahli DeepSeek-V3, model ini menggunakan Group Relative Policy Optimization (GRPO) untuk pelatihan.
Tim mengatasi masalah "cold start" RL dengan menambahkan penyesuaian halus terawasi dengan contoh rantai pemikiran sebelum pembelajaran penguatan.
Versi distilasi untuk Qwen dan Llama dirilis, mengungguli model yang lebih besar seperti GPT-4 dalam tugas matematika dan pemrograman.
DeepSeek-R1 menempati peringkat #3 secara keseluruhan di LMArena tak lama setelah rilis, memimpin dalam kategori pemrograman dan matematika.

Lisensi sumber terbuka mengizinkan penggunaan keluaran model untuk distilasi, yang berpotensi memajukan keadaan seni untuk model bahasa dari semua ukuran.

Kepentingan 3/3 Mengungguli benchmark lab papan atas InfoQ DeepSeek Open weights Reasoning models

Baca aslinya

DeepSeek-R1-0528 meningkatkan penalaran dan akurasi AIME menjadi 87,5%

DeepSeek telah merilis DeepSeek-R1-0528, sebuah peningkatan versi minor yang secara signifikan meningkatkan kedalaman penalaran dan kemampuan inferensi melalui peningkatan sumber daya komputasi dan optimisasi algoritmik selama pasca-pelatihan.

lab DeepSeek (Hugging Face) · 503 hari lalu

DeepSeek-V3-0324 meningkatkan kemampuan penalaran, pemrograman, dan penulisan bahasa Mandarin dibandingkan DeepSeek-V3

DeepSeek telah merilis DeepSeek-V3-0324, sebuah pembaruan model yang menunjukkan peningkatan signifikan dibandingkan pendahulunya, DeepSeek-V3, khususnya dalam kemampuan penalaran, eksekusi kode, dan kemahiran penulisan bahasa Mandarin.

lab DeepSeek (Hugging Face) · 591 hari lalu

DeepSeek merilis model bahasa V3 MoE dengan 671B parameter

DeepSeek telah merilis DeepSeek-V3, sebuah model bahasa Mixture-of-Experts (MoE) yang memiliki total 671 miliar parameter dengan 37 miliar diaktifkan per token. Model ini dilatih pada 14,8 triliun token dan memanfaatkan Multi-head Latent Attention serta strategi penyeimbangan beban tanpa kerugian tambahan.

media The Batch · 2 hari lalu · 1 tayangan

DeepSeek merilis V4-Flash-0731, melampaui V4-Pro dengan biaya lebih rendah

DeepSeek telah merilis DeepSeek-V4-Flash-0731, versi pembaruan dari model "Flash" berukuran lebih kecil yang mengungguli DeepSeek-V4-Pro yang lebih besar pada benchmark independen. Rilis ini memanfaatkan proses fine-tuning baru sambil mempertahankan arsitektur Mixture-of-Experts asli dengan total 284 miliar parameter.

media r/LocalLLaMA · 6 hari lalu · 16 tayangan

AI9Stars merilis G9v3-39A5B, model bobot terbuka dengan 39B parameter dan 5 ahli aktif

AI9Stars telah merilis G9v3-39A5B, sebuah model bahasa bobot terbuka yang dirancang untuk memberikan kemampuan penalaran yang lebih kuat dibandingkan pendahulunya, ai9stars/G9v3-3B. Model ini memiliki 39 miliar parameter dan 5 ahli aktif serta dilisensikan di bawah Apache 2.0 untuk penggunaan pribadi dan komersial.