media r/LocalLLaMA · 1 jam lalu · open_models

SLAI T-Rex mencapai 34,22% MFU dan 71,81% Pass@1 untuk DeepSeek-V4 di Ascend

Diterjemahkan dari English → Bahasa Indonesia

SLAI memperkenalkan T-Rex, sebuah kerangka kerja pasca-pelatihan parameter penuh untuk keluarga model DeepSeek-V4 pada infrastruktur Ascend SuperPOD. Sistem ini mengatasi tekanan memori dan overhead komunikasi dalam model MoE triliunan parameter melalui optimasi hierarkis.

Mencapai 34,22% Model FLOPs Utilization (MFU), peningkatan 2,93x dibandingkan baseline open-source.
Menetapkan alur kerja CPT dan SFT untuk tugas Riset Operasi menggunakan data sintetis yang diverifikasi oleh solver.
Model khusus DeepSeek-V4-Flash mencapai skor zero-shot Pass@1 sebesar 71,81%, mengungguli GPT-5.4-Mini sebesar 3,98 poin persentase.

Karya ini menunjukkan jalur efisien untuk pasca-pelatihan model frontier pada perangkat keras Ascend dan pembuatan kemampuan khusus domain untuk penalaran kompleks.

Kepentingan 2/3 r/LocalLLaMA Research paper Training methods

Baca aslinya

Eksponen Lyapunov sebagai Imbalan Padat yang Diinformasikan Fisika: Penemuan Stabilisasi Lewat RL Melampaui Pendulum Kapitza

Para penulis mengusulkan penggunaan eksponen karakteristik Lyapunov (LCE) sebagai sinyal imbalan padat untuk menstabilkan pendulum terbalik dengan gerakan vertikal. Pendekatan ini memungkinkan agen pembelajaran penguatan menemukan perilaku stabilisasi kompleks di luar solusi osilasi standar.

arxiv arXiv cs.LG · 7 hari lalu

Lighthouse RL memperkenalkan titik reset strategis untuk penskalaan sirkuit analog yang efisien dalam sampel

Para peneliti memperkenalkan Lighthouse RL, sebuah pendekatan pembelajaran penguatan yang meningkatkan efisiensi sampel dalam penskalaan sirkuit analog dengan menggunakan konfigurasi berkinerja tinggi sebagai titik reset strategis.

arxiv arXiv cs.CL · 7 hari lalu

Kerangka kerja meta-learning memungkinkan penyesuaian LLM multibahasa dengan data preferensi minimal

Para peneliti mengusulkan kerangka kerja meta-learning untuk Reinforcement Learning from Human Feedback dan Direct Preference Optimization untuk mengatasi tantangan ketersediaan data preferensi manusia yang tidak merata di berbagai bahasa. Dengan memanfaatkan data preferensi dari bahasa lain, metode ini mempelajari inisialisasi yang dapat ditransfer yang memungkinkan adaptasi efektif ke bahasa target dengan menggunakan sangat sedikit sampel.

arxiv arXiv cs.CL · 7 hari lalu

Studi menganalisis alokasi komputasi pasca-pelatihan RL optimal melintasi ukuran model, pencarian, dan umpan balik

Sebuah studi menyelidiki masalah keputusan anggaran tetap dalam mengalokasikan sumber daya pasca-pelatihan Pembelajaran Penguatan (RL), khususnya memeriksa apakah harus memprioritaskan kebijakan yang lebih besar, pelatihan yang diperpanjang, pencarian rollout lebih banyak, atau umpan balik hadiah yang lebih kuat.

arxiv arXiv cs.CL · 7 hari lalu

Studi menemukan keberhasilan distilasi on-policy bergantung pada kualitas sinyal, bukan skala guru

Sebuah studi sistematis mengenai distilasi on-policy (OPD) mengidentifikasinya sebagai katalis eksplorasi yang mengarahkan siswa melalui panduan tingkat token yang padat tanpa meningkatkan batas kemampuan. Penelitian ini mengonfirmasi bahwa efektivitas OPD sepenuhnya bergantung pada kualitas sinyal panduan, bukan pada keragaman prompt atau jumlah pengambilan sampel per masalah.