arxiv Moonshot AI (arXiv) · 466 hari lalu

Microsoft merilis Phi-4-Mini-Reasoning, model 3.8B yang mengungguli model penalaran yang lebih besar

Diterjemahkan dari English → Bahasa Indonesia

Microsoft telah memperkenalkan Phi-4-Mini-Reasoning, sebuah model kompak berisi 3,8 miliar parameter yang mencapai kinerja penalaran matematika yang unggul dibandingkan pesaing yang jauh lebih besar melalui resep pelatihan sistematis empat langkah.

Metodologinya melibatkan pelatihan menengah skala besar pada data rantai-pemikiran-panjang yang didistilasi, penyetelan halus terawasi, Rollout DPO menggunakan dataset preferensi yang dikurasi, dan pembelajaran penguatan dengan hadiah yang dapat diverifikasi.

Pada benchmark Math-500, Phi-4-Mini-Reasoning mengungguli DeepSeek-R1-Distill-Qwen-7B sebesar 3,2 poin dan DeepSeek-R1-Distill-Llama-8B sebesar 7,7 poin.

Hasil-hasil tersebut memvalidasi bahwa resep pelatihan yang dirancang dengan cermat dengan data rantai-pemikiran berkualitas tinggi dapat membuka kemampuan penalaran yang kuat pada model bahasa kecil dengan sumber daya terbatas.

Kepentingan 1/3 Moonshot AI (arXiv) Microsoft Research Research paper Training methods

Benchmark

Benchmark	Model	Skor
MATH-500	Llama-8B	89.1%
MATH-500	Qwen-1.5B	83.9%
MATH-500	Phi-4-Mini-Reasoning	3.2%

Baca aslinya

Microsoft merilis laporan teknis Phi-4 untuk model 14B yang menggunakan data sintetis

Microsoft telah menerbitkan laporan teknis untuk Phi-4, sebuah model bahasa dengan 14 miliar parameter yang mengutamakan kualitas data melalui penggunaan strategis data sintetis selama pelatihan. Berbeda dengan model Phi sebelumnya yang mendistilasi kemampuan dari GPT-4, Phi-4 melampaui gurunya dalam tugas QA berfokus STEM, menunjukkan bahwa teknik generasi data dan pasca-pelatihannya melampaui distilasi sederhana.

arxiv arXiv cs.LG · 2 hari lalu

U-OPSD memungkinkan distilasi diri on-policy tanpa pengawasan untuk LLM

Para peneliti mengusulkan Distilasi Diri On-Policy Tanpa Pengawasan (U-OPSD), sebuah metode yang mencapai peningkatan pasca-pelatihan untuk model bahasa besar hanya menggunakan generasi model itu sendiri tanpa supervisi eksternal. Pendekatan ini mengambil beberapa rollouts untuk membangun solusi pseudo melalui pemungutan suara mayoritas, lalu mendistilasi distribusi guru ke dalam awalan dari penyelesaian salah terpanjang model.

media MarkTechPost · 3 hari lalu

SkillOpt dari Microsoft memungkinkan transfer keterampilan agen antara Codex dan Claude Code

Peneliti dari Microsoft, Universitas Shanghai Jiao Tong, Universitas Tongji, dan Universitas Fudan mengembangkan SkillOpt, sebuah pengoptimal ruang teks yang melatih dokumen keterampilan berbasis bahasa alami sambil menjaga model target tetap beku. Sistem ini menggunakan model pengoptimal untuk mengusulkan suntingan terbatas berdasarkan rollout yang dinilai, mengekspor hasilnya sebagai satu file `best_skill.md`.

arxiv arXiv cs.CL · 9 hari lalu · 2 tayangan

Decoder Memori dalam Skala: Menskalakan memori jangka panjang parametrik hingga 6.9B parameter

Para peneliti menyajikan Memory Decoder at Scale, sebuah sistem yang menskalakan model memori jangka panjang parametrik hingga 6.9B parameter dan melatihnya terlebih dahulu pada 300B token. Untuk mengatasi ketidakmungkinan pipeline Faiss standar pada skala data ini, para penulis mengimplementasikan pipeline pengindeksan terdistribusi dengan pemuatan kNN yang jarang dan berbasis batch.

lab Microsoft Research Blog · 9 hari lalu · 3 tayangan

Microsoft Research memperkenalkan EvoLib untuk pembelajaran saat pengujian dengan perpustakaan yang berkembang

Microsoft Research telah memperkenalkan EvoLib, sebuah kerangka kerja yang memungkinkan model bahasa besar belajar dari pengalaman mereka sendiri selama inferensi tanpa memerlukan label kebenaran dasar atau umpan balik eksternal. Daripada menyimpan pengalaman mentah sebagai memori statis, EvoLib mengubahnya menjadi keterampilan yang dapat digunakan kembali dan wawasan reflektif yang terus disempurnakan, dikonsolidasikan, dan diberi bobot ulang.