lab NVIDIA Research · 1 jam lalu · research

Source memperkenalkan diferensiasi unrolled aproksimasi untuk atribusi data pelatihan

Diterjemahkan dari English → Bahasa Indonesia

Peneliti memperkenalkan Source, metode atribusi data pelatihan (TDA) baru yang menggabungkan efisiensi komputasi fungsi pengaruh dengan akurasi pendekatan berbasis unrolling. Dengan menggunakan formula mirip fungsi pengaruh untuk mengaproksimasi diferensiasi unrolled, Source mengatasi keterbatasan dalam metode diferensiasi implisit, seperti kegagalan mereka memperhitungkan bias optimisasi atau pipeline multi-tahap.

Source secara komputasi efisien dibandingkan dengan metode TDA unrolled penuh.
Metode ini tetap cocok untuk model yang tidak konvergen dan pipeline pelatihan multi-tahap di mana pendekatan diferensiasi implisit mengalami kesulitan.
Hasil empiris menunjukkan Source mengungguli teknik TDA yang ada dalam prediksi counterfactual, khususnya dalam pengaturan di mana metode tradisional kurang memadai.

Kepentingan 1/3 Kepercayaan 3/3 NVIDIA Research Research paper Training methods

Baca aslinya

LLM menyamai atau mengalahkan optimisasi Bayesian untuk optimisasi hiperparameter

Sebuah makalah baru mengeksplorasi penggunaan model bahasa besar fundamental (LLM) untuk mengotomatisasi optimisasi hiperparameter (HPO), sebuah proses yang biasanya mengandalkan pendekatan manual dalam pengaturan anggaran terbatas. Para penulis mengembangkan metodologi di mana LLM menyarankan konfigurasi hiperparameter berdasarkan deskripsi dataset dan model, yang kemudian disempurnakan secara iteratif sesuai dengan kinerja model.

lab NVIDIA Research · 1 jam lalu Langsung

JacNet mempelajari fungsi dengan memodelkan langsung Jacobian terstruktur

Makalah ini memperkenalkan JacNet, sebuah arsitektur jaringan saraf yang secara langsung mempelajari Jacobian dari fungsi input-output alih-alih pemetaannya sendiri. Pendekatan ini memungkinkan kontrol yang tepat atas sifat-sifat turunan, memungkinkan penerapan prior struktural seperti invertibilitas dan kontinuitas k-Lipschitz.

arxiv arXiv cs.CL · 8 jam lalu

MiLMMT-46-v1.0 meningkatkan terjemahan multibahasa melalui pasca-pelatihan tanpa referensi

Para peneliti telah merilis MiLMMT-46-v1.0, sebuah model bahasa besar sumber terbuka untuk terjemahan mesin multibahasa yang memanfaatkan pasca-pelatihan tanpa referensi. Dimulai dari MiLMMT-46-v0.1 yang telah disetel halus secara terawasi, tim menerapkan Group Relative Policy Optimization (GRPO) dengan imbalan berdasarkan dua model estimasi kualitas tanpa referensi yang dikendalikan oleh identifikasi bahasa.

lab NVIDIA Research · 1 hari lalu · 2 tayangan

Masters mendistilasi model visi-bahasa melalui guru masker dan penguatan siswa

Peneliti mengusulkan Masters, sebuah kerangka pembelajaran penguatan progresif-masking untuk mendistilasi model visi-bahasa skala besar menjadi versi kompak yang cocok untuk penyebaran di tepi. Metode ini mengatasi ketidakstabilan yang disebabkan oleh kesenjangan ukuran antara model guru dan siswa.

lab NVIDIA Research · 1 hari lalu · 2 tayangan

ZPPO menggunakan prompt alih-alih gradien untuk meningkatkan pelatihan model visi-bahasa kecil

Para peneliti memperkenalkan Zone of Proximal Policy Optimization (ZPPO), sebuah metode yang menyuntikkan pengetahuan guru ke dalam prompt daripada gradien kebijakan untuk mengatasi kerapuhan dalam distilasi pengetahuan dan pergeseran dalam pembelajaran penguatan. ZPPO membangun Binary Candidate-included Questions (BCQ) dan Negative Candidate-included Questions (NCQ) untuk pertanyaan sulit, dan memutar ulang pertanyaan tersebut melalui buffer replays hingga akurasi siswa meningkat atau pertanyaan tersebut dihapus.