arxiv Moonshot AI (arXiv) · 605 hari lalu

Microsoft merilis laporan teknis Phi-4 untuk model 14B yang menggunakan data sintetis

Diterjemahkan dari English → Bahasa Indonesia

Microsoft telah menerbitkan laporan teknis untuk Phi-4, sebuah model bahasa dengan 14 miliar parameter yang mengutamakan kualitas data melalui penggunaan strategis data sintetis selama pelatihan. Berbeda dengan model Phi sebelumnya yang mendistilasi kemampuan dari GPT-4, Phi-4 melampaui gurunya dalam tugas QA berfokus STEM, menunjukkan bahwa teknik generasi data dan pasca-pelatihannya melampaui distilasi sederhana.

Model ini menggunakan resep pelatihan yang berfokus pada data sintetis berkualitas tinggi, bukan hanya konten web organik atau kode.
Phi-4 secara substansial mengungguli GPT-4 dalam kemampuan menjawab pertanyaan berfokus STEM.
Model ini mencapai kinerja yang kuat relatif terhadap ukurannya, terutama pada benchmark berfokus penalaran, berkat peningkatan data, kurikulum pelatihan, dan inovasi pasca-pelatihan.

Laporan tersebut menyoroti bahwa meskipun perubahan arsitektur dari phi-3 sangat minim, fokus pada kualitas data memungkinkan model melampaui kemampuan guru di domain tertentu.

Kepentingan 1/3 Moonshot AI (arXiv) Microsoft Research Research paper Training methods

Artikel terkait

arxiv Moonshot AI (arXiv) · 466 hari lalu

Microsoft merilis Phi-4-Mini-Reasoning, model 3.8B yang mengungguli model penalaran yang lebih besar

Microsoft telah memperkenalkan Phi-4-Mini-Reasoning, sebuah model kompak berisi 3,8 miliar parameter yang mencapai kinerja penalaran matematika yang unggul dibandingkan pesaing yang jauh lebih besar melalui resep pelatihan sistematis empat langkah.

arxiv arXiv cs.LG · 2 hari lalu

U-OPSD memungkinkan distilasi diri on-policy tanpa pengawasan untuk LLM

Para peneliti mengusulkan Distilasi Diri On-Policy Tanpa Pengawasan (U-OPSD), sebuah metode yang mencapai peningkatan pasca-pelatihan untuk model bahasa besar hanya menggunakan generasi model itu sendiri tanpa supervisi eksternal. Pendekatan ini mengambil beberapa rollouts untuk membangun solusi pseudo melalui pemungutan suara mayoritas, lalu mendistilasi distribusi guru ke dalam awalan dari penyelesaian salah terpanjang model.

media MarkTechPost · 3 hari lalu

SkillOpt dari Microsoft memungkinkan transfer keterampilan agen antara Codex dan Claude Code

Peneliti dari Microsoft, Universitas Shanghai Jiao Tong, Universitas Tongji, dan Universitas Fudan mengembangkan SkillOpt, sebuah pengoptimal ruang teks yang melatih dokumen keterampilan berbasis bahasa alami sambil menjaga model target tetap beku. Sistem ini menggunakan model pengoptimal untuk mengusulkan suntingan terbatas berdasarkan rollout yang dinilai, mengekspor hasilnya sebagai satu file `best_skill.md`.

arxiv arXiv cs.CL · 9 hari lalu · 2 tayangan

Decoder Memori dalam Skala: Menskalakan memori jangka panjang parametrik hingga 6.9B parameter

Para peneliti menyajikan Memory Decoder at Scale, sebuah sistem yang menskalakan model memori jangka panjang parametrik hingga 6.9B parameter dan melatihnya terlebih dahulu pada 300B token. Untuk mengatasi ketidakmungkinan pipeline Faiss standar pada skala data ini, para penulis mengimplementasikan pipeline pengindeksan terdistribusi dengan pemuatan kNN yang jarang dan berbasis batch.

lab Microsoft Research Blog · 10 hari lalu · 3 tayangan

Microsoft Research memperkenalkan EvoLib untuk pembelajaran saat pengujian dengan perpustakaan yang berkembang

Microsoft Research telah memperkenalkan EvoLib, sebuah kerangka kerja yang memungkinkan model bahasa besar belajar dari pengalaman mereka sendiri selama inferensi tanpa memerlukan label kebenaran dasar atau umpan balik eksternal. Daripada menyimpan pengalaman mentah sebagai memori statis, EvoLib mengubahnya menjadi keterampilan yang dapat digunakan kembali dan wawasan reflektif yang terus disempurnakan, dikonsolidasikan, dan diberi bobot ulang.