arxiv arXiv cs.AI · 1 jam lalu · research

Harness Continual Learning menyesuaikan keadaan agen di luar parameter model yang dibekukan

Diterjemahkan dari English → Bahasa Indonesia

Para penulis memperkenalkan Harness Continual Learning (HCL), sebuah paradigma di mana agen meningkat dengan mengembangkan harness-nya yang berorientasi eksekusi daripada memperbarui parameter model. Pendekatan ini mengatasi tantangan mempertahankan perilaku yang sebelumnya diperoleh sambil beradaptasi dengan pengalaman baru melalui komponen seperti prompt, memori, dan aturan perutean.

HCL memanfaatkan empat komponen: Task Interface, Experience Memory, Capability Map, dan Adaptive Router.
Evolusi harness yang dijaga memisahkan generasi pembaruan dari komitmen keadaan menggunakan Continual Optimizer dan Evaluator.
Eksperimen menunjukkan peningkatan relatif melebihi 10% dibandingkan dengan baseline dalam penalaran tekstual, persepsi multimodal, dan interaksi dunia terbuka.
Sweep retensi terkontrol mengungkapkan lupa pada tingkat harness yang terukur dan memungkinkan penyesuaian eksplisit dari trade-off stabilitas-plastisitas.

Metode ini memungkinkan akumulasi kemampuan dan pemulihan kegagalan tanpa mengganggu perilaku yang diperoleh sebelumnya dengan menjaga model dasar tetap beku.

Kepentingan 2/3 Kerangka evaluasi baru dengan pembeda arXiv cs.AI Research paper Training methods

Artikel terkait

media r/LocalLLaMA · 20 jam lalu

Z.ai menskalakan pasca-pelatihan GLM-5.3 untuk meningkatkan penalaran jangka panjang

Z.ai merilis GLM-5.3, sebuah eksperimen terkontrol yang menunjukkan bahwa penskalaan pasca-pelatihan menghasilkan peningkatan signifikan dalam penalaran jangka panjang tanpa mengubah model dasar atau jumlah parameter.

media Hugging Face Forums · 6 hari lalu · 18 tayangan

ThetaMem mengusulkan pengangkatan kunci perkalian bertanda untuk memori urutan keadaan tetap

ThetaMem adalah studi awal satu-seed dari mixer rekuren yang memodifikasi keadaan rekuren melalui pengangkatan kunci Hadamard atau produk-luar bertanda yang dipelajari, bukan dengan menyempurnakan mekanisme gerbang. Penulis menyajikan hasil campuran pada benchmark sintetis dan secara eksplisit mencari kritik untuk mengidentifikasi eksperimen termurah yang dapat menyangkal pendekatan tersebut.

lab NVIDIA Research · 8 hari lalu · 60 tayangan

LLM menyamai atau mengalahkan optimisasi Bayesian untuk optimisasi hiperparameter

Sebuah makalah baru mengeksplorasi penggunaan model bahasa besar fundamental (LLM) untuk mengotomatisasi optimisasi hiperparameter (HPO), sebuah proses yang biasanya mengandalkan pendekatan manual dalam pengaturan anggaran terbatas. Para penulis mengembangkan metodologi di mana LLM menyarankan konfigurasi hiperparameter berdasarkan deskripsi dataset dan model, yang kemudian disempurnakan secara iteratif sesuai dengan kinerja model.

lab NVIDIA Research · 8 hari lalu · 56 tayangan

Source memperkenalkan diferensiasi unrolled aproksimasi untuk atribusi data pelatihan

Peneliti memperkenalkan Source, metode atribusi data pelatihan (TDA) baru yang menggabungkan efisiensi komputasi fungsi pengaruh dengan akurasi pendekatan berbasis unrolling. Dengan menggunakan formula mirip fungsi pengaruh untuk mengaproksimasi diferensiasi unrolled, Source mengatasi keterbatasan dalam metode diferensiasi implisit, seperti kegagalan mereka memperhitungkan bias optimisasi atau pipeline multi-tahap.

lab NVIDIA Research · 8 hari lalu · 24 tayangan

JacNet mempelajari fungsi dengan memodelkan langsung Jacobian terstruktur

Makalah ini memperkenalkan JacNet, sebuah arsitektur jaringan saraf yang secara langsung mempelajari Jacobian dari fungsi input-output alih-alih pemetaannya sendiri. Pendekatan ini memungkinkan kontrol yang tepat atas sifat-sifat turunan, memungkinkan penerapan prior struktural seperti invertibilitas dan kontinuitas k-Lipschitz.