arxiv arXiv cs.CL · 4 hari lalu · sumber: 6 hari lalu · research

Highlight-Then-Summarize memadatkan bukti untuk pemahaman konteks panjang yang lebih baik

Diterjemahkan dari English → Bahasa Indonesia

Para peneliti mengusulkan Highlight-Then-Summarize (H2S), sebuah paradigma kompresi-terus-alasan yang mengidentifikasi bukti relevan dengan pertanyaan dan mengintegrasikannya ke dalam ringkasan kompak sebelum menghasilkan jawaban. Untuk mendukung pendekatan ini, tim membangun H2S-Dataset dengan 6.647 contoh dari 11 keluarga benchmark dan memperkenalkan H2S-RL untuk imbalan tingkat proses.

H2S-14B mencapai skor rata-rata 32,60 pada H2S-Bench di bawah anggaran input 128K dan output 4K yang sama.
Model ini mengungguli Qwen3.8-27B sebesar 10,17 poin, mengamankan hasil keseluruhan terkuat di antara model sumber terbuka yang dievaluasi.
H2S-14B mempertahankan 97,1% dari kinerjanya dengan anggaran 16K hanya dengan anggaran output 4K sambil mencapai skor Kualitas Ringkasan-Bukti tertinggi.

Hasil-hasil ini menunjukkan bahwa pemilihan dan integrasi bukti secara eksplisit meningkatkan penalaran konteks panjang sekaligus memungkinkan generasi yang lebih kompak.

Kepentingan 2/3 arXiv cs.CL Research paper Retrieval & RAG

Baca aslinya

RareDx menggunakan optimasi kebijakan berbasis graf untuk meningkatkan diagnosis penyakit langka

Para penulis memperkenalkan RareDx, sebuah sistem yang menggabungkan penggunaan bukti terkontrol dengan optimasi kebijakan berbasis grafik pengetahuan untuk mengatasi masalah penalaran long-tail dalam diagnosis penyakit langka. Pipeline pelatihan menggabungkan Top-10 pasca-pelatihan dengan RareDx-KGPO, yang memproyeksikan prediksi ke dalam grafik penyakit kanonik dan mengintegrasikan relevansi bertingkat yang dikurasi, kedekatan ontologi, kesamaan biomedis, dan konsistensi fenotipe.

arxiv arXiv cs.AI · 4 hari lalu · 19 tayangan

Highlight-Then-Summarize memadatkan bukti untuk meningkatkan pemahaman konteks panjang

Para peneliti mengusulkan Highlight-Then-Summarize (H2S), sebuah paradigma kompresi-terus-alasan yang mengidentifikasi bukti relevan dengan pertanyaan dan mengintegrasikannya ke dalam ringkasan kompak sebelum menghasilkan jawaban. Tim membangun H2S-Dataset dengan 6.647 contoh dan memperkenalkan H2S-RL untuk memberikan imbalan tingkat proses untuk pemilihan bukti.

media Hugging Face Forums · 4 hari lalu · 8 tayangan

Model JEPA biologis menggunakan kendala biologis untuk memodelkan progresi penyakit

Sebuah proyek open-source baru bernama Biological JEJA menggabungkan pembelajaran representasi gaya JEPA dengan kendala biologis untuk memodelkan bagaimana penyakit berkembang seiring waktu. Pendekatan ini diuji pada data ADNI nyata dari 2.347 pasien dan dibandingkan dengan beberapa model lainnya.

arxiv arXiv cs.CL · 8 hari lalu · 6 tayangan

R3Con menerapkan prinsip realisasi relevansi untuk meningkatkan penalaran skala besar

Peneliti mengusulkan R3Con, sebuah harness yang mengoperasionalkan prinsip-prinsip teori kognitif untuk membangun representasi efektif dari konteks yang sangat besar. Sistem ini mengatasi tantangan merakit informasi saling bergantung yang tersebar di sumber-sumber luas melampaui batas konteks model standar.

media Hugging Face Forums · 35 hari lalu · 44 tayangan

Inversi ontologis: memori vektor lintas-model untuk pengarahan dan pengambilan

Sebuah prapublikasi oleh peneliti independen Jason Van Pham mengusulkan penerjemahan representasi kontinu antar model beku untuk memungkinkan pengarahan, pengambilan, dan penalaran tanpa pengeditan bobot. Karya ini memperkenalkan metode di mana konsep dikompilasi ke dalam arah residual di ruang satu model dan dipetakan melalui transformasi affine ke lapisan tersembunyi model lain.