arxiv arXiv cs.CL · 7 jam lalu · sumber: 2 hari lalu · research

TelecomGPT-R1: Pelatihan Pasca-Unifikasi untuk Penalaran Melintasi Tugas Telekomunikasi Heterogen

Diterjemahkan dari English → Bahasa Indonesia

Para peneliti memperkenalkan TelecomGPT-R1, sebuah keluarga model penalaran telekomunikasi terpadu sumber terbuka yang dirancang untuk mengotomatisasi tugas teknik dengan menalar atas standar, konfigurasi, dan log. Model ini mengatasi keterbatasan LLM umum dan khusus yang ada melalui pendekatan terstruktur yang mencakup aspek protokol, pengetahuan, pemodelan, dan gangguan.

Kerangka kerja generasi data yang sadar sumbu menyaring artefak telekomunikasi publik menjadi 104.880 pasangan pertanyaan-jawaban terverifikasi dengan penalaran rantai-pemikiran.
Penyetelan halus terawasi menanamkan pengetahuan telekomunikasi untuk mengatasi hambatan awal dingin bagi pembelajaran penguatan.
Optimisasi kebijakan pengambilan sampel dinamis (DAPO) dengan hadiah rubrik yang dialihkan tugas menstabilkan pembaruan RL melintasi tugas heterogen.
Model TelecomGPT-R1-27B mencapai skor rata-rata 89,64% pada tujuh benchmark GSMA Open Telco Leaderboard, mengungguli GPT-5, Claude, dan Gemini.

Para penulis merilis model dan resep pelatihan yang dapat direproduksi untuk mendukung pengembangan komunitas dalam otomatisasi telekomunikasi.

Kepentingan 2/3 arXiv cs.CL Zhipu AI Reasoning models Research paper

Artikel terkait

arxiv arXiv cs.CL · 75 hari lalu · 17 tayangan

Pengujian Eternis-Forecaster 8B mengungkapkan representasi internal meningkatkan kalibrasi dan mengungkap masalah kesetiaan CoT

Peneliti menyelidiki apakah representasi internal dalam model bahasa besar memberikan jendela yang lebih langsung ke kalibrasi dan kesetiaan daripada penalaran rantai-pemikiran (CoT). Bekerja dengan Eternis-Forecaster 8B di OpenForesight, mereka melatih probe pengelompokan representasi pada aktivasi perantara yang mencapai kalibrasi jauh lebih baik dibandingkan output standar model.

arxiv Moonshot AI (arXiv) · 595 hari lalu · 26 tayangan

GAIR-NLP merilis LIMO, mencapai penalaran matematika kuat dengan 817 sampel

GAIR-NLP memperkenalkan LIMO, sebuah model yang menunjukkan bahwa penalaran matematika kompleks dapat dielaborasi secara efektif hanya dengan menggunakan 817 sampel pelatihan yang dikurasi. Pendekatan ini menantang asumsi konvensional bahwa fine-tuning terawasi memerlukan dataset masif untuk menghindari hafalan.

arxiv arXiv cs.LG · 1 hari lalu · 9 tayangan

Fathom-Vaidya meningkatkan penalaran medis dengan hadiah berbasis rubrik

Para penulis memperkenalkan Fathom-Vaidya, model 30B parameter yang menggunakan data sintetis dan pembelajaran penguatan berbasis rubrik untuk meningkatkan penalaran diagnostik dan klinis dalam perawatan kesehatan. Kerangka pelatihan pertama-tama menerapkan RL yang dipandu aturan pada pertanyaan yang berasal dari MedBullets untuk diagnosis, kemudian memanfaatkan 5.3k skenario multi-giliran sintetis dengan rubrik multidimensi untuk tugas klinis interaktif.

media Hugging Face Forums · 2 hari lalu · 15 tayangan

Proposal untuk sistem dekomposisi proposisi dan penalaran yang didorong oleh kontradiksi

Seorang penulis mengusulkan desain penelitian untuk sistem penalaran yang mendeteksi kontradiksi antara dua proposisi dengan menguraikannya menjadi komponen yang lebih kecil dan mencari tabrakan logis, alih-alih mengandalkan penilaian langsung LLM.

arxiv arXiv cs.CL · 13 hari lalu · 28 tayangan

Serangan satu arah pada GLM-5.3-Flash mengungkap kerapuhan penyesuaian keamanan pada model MoE

Peneliti menunjukkan bahwa ablasi berarah, sebuah serangan kotak-putih yang menghilangkan penolakan dengan memproyeksikan keluar satu arah dari bobot, tetap efektif pada model campuran-ahli (MoE) terdepan seperti GLM-5.3-Flash. Studi ini menunjukkan bahwa meskipun serangan bertahan terhadap arsitektur, efeknya terdistribusi di seluruh penulis perhatian, padat, dan ahli yang dialihkan, bukan terkonsentrasi di satu lokasi.