arxiv arXiv cs.CL · 1 jam lalu · research

MiLMMT-46-v1.0 meningkatkan terjemahan multibahasa melalui pasca-pelatihan tanpa referensi

Diterjemahkan dari English → Bahasa Indonesia

Para peneliti telah merilis MiLMMT-46-v1.0, sebuah model bahasa besar sumber terbuka untuk terjemahan mesin multibahasa yang memanfaatkan pasca-pelatihan tanpa referensi. Dimulai dari MiLMMT-46-v0.1 yang telah disetel halus secara terawasi, tim menerapkan Group Relative Policy Optimization (GRPO) dengan imbalan berdasarkan dua model estimasi kualitas tanpa referensi yang dikendalikan oleh identifikasi bahasa.

Model akhir diperoleh melalui interpolasi linear antara titik pemeriksaan setelan halus terawasi dan pembelajaran penguatan.
Di 46 bahasa, MiLMMT-46-v1.0 secara konsisten meningkatkan kualitas terjemahan dibandingkan dengan rekan SFT-nya.
Model ini mengungguli baseline sumber terbuka yang kuat termasuk Seed-X, HY-MT2, dan TranslateGemma.
Model ini mencapai skor tanpa referensi terdepan melawan sistem tertutup seperti Google Translate, Gemini 3 Pro, dan GPT-5.
Distilasi on-policy diselidiki tetapi tidak melampaui batas kualitas yang dicapai oleh RL dengan interpolasi titik pemeriksaan.

Para penulis merilis model dan kode untuk memfasilitasi penelitian di masa depan di bidang ini.

Kepentingan 2/3 arXiv cs.CL 01.AI Tencent Research paper Training methods

Artikel terkait

lab NVIDIA Research · 17 jam lalu · 2 tayangan

Masters mendistilasi model visi-bahasa melalui guru masker dan penguatan siswa

Peneliti mengusulkan Masters, sebuah kerangka pembelajaran penguatan progresif-masking untuk mendistilasi model visi-bahasa skala besar menjadi versi kompak yang cocok untuk penyebaran di tepi. Metode ini mengatasi ketidakstabilan yang disebabkan oleh kesenjangan ukuran antara model guru dan siswa.

lab NVIDIA Research · 17 jam lalu

ZPPO menggunakan prompt alih-alih gradien untuk meningkatkan pelatihan model visi-bahasa kecil

Para peneliti memperkenalkan Zone of Proximal Policy Optimization (ZPPO), sebuah metode yang menyuntikkan pengetahuan guru ke dalam prompt daripada gradien kebijakan untuk mengatasi kerapuhan dalam distilasi pengetahuan dan pergeseran dalam pembelajaran penguatan. ZPPO membangun Binary Candidate-included Questions (BCQ) dan Negative Candidate-included Questions (NCQ) untuk pertanyaan sulit, dan memutar ulang pertanyaan tersebut melalui buffer replays hingga akurasi siswa meningkat atau pertanyaan tersebut dihapus.

arxiv arXiv cs.LG · 5 hari lalu

U-OPSD memungkinkan distilasi diri on-policy tanpa pengawasan untuk LLM

Para peneliti mengusulkan Distilasi Diri On-Policy Tanpa Pengawasan (U-OPSD), sebuah metode yang mencapai peningkatan pasca-pelatihan untuk model bahasa besar hanya menggunakan generasi model itu sendiri tanpa supervisi eksternal. Pendekatan ini mengambil beberapa rollouts untuk membangun solusi pseudo melalui pemungutan suara mayoritas, lalu mendistilasi distribusi guru ke dalam awalan dari penyelesaian salah terpanjang model.

arxiv arXiv cs.CL · 12 hari lalu · 3 tayangan

Decoder Memori dalam Skala: Menskalakan memori jangka panjang parametrik hingga 6.9B parameter

Para peneliti menyajikan Memory Decoder at Scale, sebuah sistem yang menskalakan model memori jangka panjang parametrik hingga 6.9B parameter dan melatihnya terlebih dahulu pada 300B token. Untuk mengatasi ketidakmungkinan pipeline Faiss standar pada skala data ini, para penulis mengimplementasikan pipeline pengindeksan terdistribusi dengan pemuatan kNN yang jarang dan berbasis batch.

arxiv arXiv cs.CL · 14 hari lalu

Relay-OPD mengurangi panjang lintasan pelatihan lebih dari 50% dalam distilasi on-policy

Para peneliti memperkenalkan Relay On-Policy Distillation (Relay-OPD) untuk mengatasi kegagalan prefix dalam distilasi on-policy standar, di mana kesalahan siswa menyebabkan pengawasan yang tidak dapat diandalkan. Metode ini menggunakan asimetri kelanjutan guru-siswa sebagai pemicu bagi guru untuk sebentar mengambil alih dan mengarahkan ulang lintasan sebelum siswa melanjutkan.