arxiv arXiv cs.CL · 1 jam lalu · research

Relay-OPD mengurangi panjang lintasan pelatihan lebih dari 50% dalam distilasi on-policy

Diterjemahkan dari English → Bahasa Indonesia

Para peneliti memperkenalkan Relay On-Policy Distillation (Relay-OPD) untuk mengatasi kegagalan prefix dalam distilasi on-policy standar, di mana kesalahan siswa menyebabkan pengawasan yang tidak dapat diandalkan. Metode ini menggunakan asimetri kelanjutan guru-siswa sebagai pemicu bagi guru untuk sebentar mengambil alih dan mengarahkan ulang lintasan sebelum siswa melanjutkan.

Memanfaatkan guru Qwen3-4B-Instruct-2507 dengan siswa Qwen3-0.6B/1.7B-Non-Thinking pada delapan benchmark penalaran matematika.
Mencapai hasil terbaik atau kedua terbaik di setiap benchmark, mengungguli OPD standar sebesar +5,73% dan FastOPD sebesar +1,49% secara rata-rata untuk model 1.7B.
Peningkatan konsisten diamati pada skala 0.6B, sementara panjang lintasan pelatihan berkurang lebih dari 50%.

Pendekatan ini memusatkan intervensi pada posisi awal kritis melalui anggaran relay terbatas, membatasi penyimpangan dari kebijakan siswa sambil secara signifikan meningkatkan efisiensi dan akurasi.

Kepentingan 2/3 arXiv cs.CL Alibaba (Qwen) Research paper Training methods

Baca aslinya

Penyelarasan pasca-pelatihan model bahasa kecil berbasis Qwen untuk generasi brosur obat

Sebuah studi membandingkan metode pasca-pelatihan termasuk fine-tuning terawasi (SFT), optimisasi preferensi langsung (DPO), optimisasi preferensi rasio odds (ORPO), dan optimisasi kebijakan relatif kelompok (GRPO) pada model bahasa kecil berbasis Qwen untuk generasi teks dari data biomedis.

arxiv arXiv cs.CL · 15 hari lalu

UMoE menata ulang kumpulan ahli MoE untuk penyetelan halus spesifik domain yang lebih baik

Peneliti mengusulkan UMoE, sebuah pipeline yang menata ulang kumpulan ahli model Mixture-of-Experts ke domain target sebelum penyetelan halus terawasi. Metode ini memangkas ahli dengan saliens rendah dan menumbuhkan kembali kumpulan melalui ekspansi berbasis gangguan sambil mempertahankan jumlah parameter asli dan biaya inferensi.

arxiv arXiv cs.CL · 19 hari lalu

Adaptasi Qwen-ASR yang Dipandu Diarisasi untuk Percakapan Ucapan Dua Pembicara Multibahasa

Makalah ini menggambarkan sistem untuk Tantangan MLC-SLM 2026 yang menggabungkan front-end diarisasi pembicara modular dengan pengenal Qwen3-ASR-1.7B yang diadaptasi tantangan.

arxiv arXiv cs.CL · 21 hari lalu · 2 tayangan

Studi tulang punggung beku menemukan bahwa efektivitas adaptasi domain bergantung pada pengetahuan domain target yang sudah ada

Sebuah studi kasus yang mengevaluasi tulang punggung embedding beku seperti Qwen3-Embedding, RoBERTa-base, dan FinBERT mengungkapkan bahwa manfaat adaptasi domain eksplisit bervariasi secara signifikan berdasarkan pengetahuan awal model. Penelitian melatih adaptor MLP ringan menggunakan Domain-Adversarial Neural Networks (DANN), Maximum Mean Discrepancy (MMD), dan Supervised Contrastive Learning (SCL) untuk mentransfer analisis sentimen dari ulasan konsumen ke ulasan film (SST-2) dan berita keuangan.

arxiv arXiv cs.CL · 22 hari lalu · 1 tayangan

Studi menemukan bahwa model bahasa yang telah diselaraskan secara sementara berkomitmen pada jawaban salah sebelum dikoreksi di tahap akhir

Sebuah studi terhadap 17 model dari tiga keluarga menunjukkan bahwa model bahasa yang telah diselaraskan sering kali secara sementara berkomitmen pada jawaban yang salah di lapisan tengah (kedalaman 25-90%) sebelum dikoreksi oleh mekanisme di lapisan akhir. "Lembah kesalahan" ini dikonfirmasi secara kausal melalui transplantasi aktivasi dan bervariasi secara signifikan berdasarkan resep penyelarasan dan skala model.