media Hugging Face Forums · 1 jam lalu · open_models

AbstractPhil merilis Beatrix V3, model byte-level 376M dengan memori splat

Diterjemahkan dari English → Bahasa Indonesia

AbstractPhil telah merilis Beatrix V3, model bahasa byte-level dengan 376 juta parameter yang menggunakan "memori splat" di setiap blok perhatian. Model ini memiliki kosakata 256 dan jendela konteks 4.096 byte, dilatih pada 64,4 miliar byte di dua kartu RTX 5090.

Arsitektur mencapai 0,9861 bit per byte pada teks web yang ditahan tanpa lonjakan kerugian.
Ini termasuk adaptor yang dapat dilepas dengan 13,7 juta parameter setelah setiap blok untuk menangani tahap kurikulum tertentu.
Model ini menunjukkan kemampuan pengkodean teks yang kuat, menyamai kinerja T5 di blok tengahnya.
Memori splat menunjukkan keterbatasan dalam ingatan jarak jauh dibandingkan kontrol softmax, mendorong rencana pendekatan hibrida.

Rilis ini mencakup bobot model dan dokumentasi teknis, mengundang umpan balik tentang peningkatan arsitektur seperti mekanisme perhatian hibrida dan modul memori lupa.

Kepentingan 1/3 Kepercayaan 1/3 Hugging Face Forums Hugging Face Research paper Training methods

Baca aslinya

Distilasi kekuatan on-policy mempertajam penalaran model bahasa tanpa pencarian

Para peneliti memperkenalkan Distilasi Kekuatan On-Policy (OPPD), sebuah metode yang melatih model untuk menghasilkan jawaban berkualitas tinggi dalam satu langkah dengan meniru distribusi probabilitas yang dipertajam dari model guru. Pendekatan ini menghilangkan kebutuhan akan pengambilan sampel kandidat yang ekstensif selama inferensi sambil secara signifikan meningkatkan kinerja pada benchmark matematika dan pemrograman.

arxiv arXiv cs.LG · 1 hari lalu · 1 tayangan

Distilasi kekuatan on-policy mempertajam penalaran tanpa pencarian

Peneliti memperkenalkan Distilasi Kekuatan On-Policy (OPPD), sebuah metode yang melatih model bahasa untuk menghasilkan jawaban berkualitas tinggi dalam satu kali lemparan dengan meniru distribusi probabilitas yang dipertajam dari model guru. Pendekatan ini menghilangkan kebutuhan akan pengambilan sampel kandidat yang ekstensif selama inferensi sambil secara signifikan meningkatkan kinerja pada tugas penalaran.

media r/LocalLLaMA · 4 hari lalu · 29 tayangan

Hugging Face menerbitkan panduan pelatihan RL multi-harness

Lewis dari tim pasca-pelatihan Hugging Face telah menerbitkan panduan komprehensif tentang melatih model terbuka menggunakan berbagai harness pemrograman. Artikel tersebut mendetailkan bagaimana tim menyelesaikan tantangan ini dengan memanfaatkan pustaka open source seperti TRL dan framework Harbor untuk lingkungan pembelajaran penguatan.

arxiv arXiv cs.LG · 15 hari lalu · 40 tayangan

Fathom-Vaidya meningkatkan penalaran medis dengan hadiah berbasis rubrik

Para penulis memperkenalkan Fathom-Vaidya, model 30B parameter yang menggunakan data sintetis dan pembelajaran penguatan berbasis rubrik untuk meningkatkan penalaran diagnostik dan klinis dalam perawatan kesehatan. Kerangka pelatihan pertama-tama menerapkan RL yang dipandu aturan pada pertanyaan yang berasal dari MedBullets untuk diagnosis, kemudian memanfaatkan 5.3k skenario multi-giliran sintetis dengan rubrik multidimensi untuk tugas klinis interaktif.

arxiv arXiv cs.AI · 15 hari lalu · 41 tayangan

Fathom-Vaidya meningkatkan penalaran medis dengan hadiah berbasis rubrik

Para penulis memperkenalkan Fathom-Vaidya, sebuah model 30B parameter yang menggunakan data sintetis dan pembelajaran penguatan berbasis rubrik untuk meningkatkan penalaran diagnostik dan klinis dalam perawatan kesehatan. Kerangka pelatihan pertama-tama menargetkan akurasi diagnostik menggunakan pertanyaan yang berasal dari MedBullets dan kemudian menangani interaksi klinis multi-giliran melalui 5,3k skenario yang dihasilkan dengan rubrik multidimensi.