media r/LocalLLaMA · 2 hari lalu · open_models

DeepSeek melatih model 2T parameter dan berencana membuat model 8T parameter

Diterjemahkan dari English → Bahasa Indonesia

DeepSeek saat ini sedang melatih model baru dengan 2 triliun parameter, dengan rencana untuk akhirnya membangun model 8 triliun parameter.

DeepSeek Flash saat ini memiliki 552 miliar parameter.
DeepSeek Pro memiliki 1,6 triliun total parameter dengan 49 miliar bobot diaktifkan per token.
Model Mythos / Fable diperkirakan memiliki jumlah parameter 10 triliun.

Kepentingan 2/3 r/LocalLLaMA DeepSeek

Baca aslinya

DeepSeek dan Moonshot AI menghadapi penyelidikan Beijing atas kebocoran data potensial ke Anthropic

Regulator Tiongkok sedang menyelidiki DeepSeek dan Moonshot AI terkait kebocoran data potensial ke perusahaan AS, Anthropic. Penyelidikan ini mengikuti rumor mengenai eksekutif Kimi, meskipun situasi saat ini digambarkan sebagai penyelidikan daripada penangkapan yang dikonfirmasi.

arxiv arXiv cs.AI · 2 hari lalu · 18 tayangan

CodeMidas menskalakan lingkungan RL pemrograman agentic menggunakan kode sumber

Peneliti memperkenalkan CodeMidas, sebuah pipeline agentic yang membangun lingkungan pembelajaran penguatan dari fungsionalitas yang diimplementasikan dalam basis kode open-source, dengan menggunakan kode sumber sebagai satu-satunya input. Metode ini mengalokasikan komputasi agentic untuk mengeksplorasi fungsionalitas, membangun tes berbasis eksekusi, dan memvalidasi tugas melalui rollouts berulang, menghasilkan dataset berisi 5.545 tugas pelatihan di 23 bahasa pemrograman. Pelatihan MiMo-V2.5 pada tugas-tugas ini dengan GRPO meningkatkan kinerja pada lima benchmark beragam, termasuk DeepSWE (+11,7%), ProgramBench (+17%), dan Terminal-Bench v2.1 (+8,5%). Analisis trajektori menunjukkan bahwa agen yang dilatih dengan RL menampilkan perilaku yang lebih baik seperti eksplorasi basis kode yang lebih besar dan verifikasi diri yang lebih beragam. Hasil-hasil ini menetapkan kode sumber sebagai fondasi yang dapat diskalakan untuk membangun lingkungan RL yang meningkatkan agen pemrograman di berbagai tugas perangkat lunak.

arxiv arXiv cs.CL · 5 hari lalu · 24 tayangan

DeepSeek merilis V4.1-Flash dengan jejak cache KV sebesar 890 byte/token

DeepSeek telah merilis DeepSeek-V4.1-Flash, sebuah model Mixture-of-Experts multimodal yang dirancang untuk mengatasi biaya tinggi komputasi konteks panjang dan cache KV besar dalam beban kerja agen.

arxiv arXiv cs.AI · 8 hari lalu · 24 tayangan

Pratinjau Atria Dawn: model bahasa agentic dasar untuk penelitian ilmiah

Atria Dawn Preview adalah model bahasa agentic dasar yang dirancang untuk alur kerja penelitian ilmiah dan teknik, dilatih melalui Pipelina Pengalaman Terverifikasi yang menghubungkan interaksi yang dimediasi alat ke lingkungan yang dapat dieksekusi. Di seluruh 16 benchmark yang mencakup penelitian dunia nyata, teknik, dan pekerjaan digital, model ini kompetitif dengan agen terdepan dan mencapai skor tertinggi yang dilaporkan pada lima di antaranya.

media r/LocalLLaMA · 9 hari lalu · 18 tayangan

DeepSeek V4.1 Flash Memimpin Indeks Kecerdasan Artificial Analysis v4.3

DeepSeek V4.1 Flash telah mengambil tempat pertama pada benchmark Astra baru dalam pembaruan Indeks Kecerdasan Artificial Analysis v4.3.