korshunov.ai
Bahasa Indonesia
Semua artikel Halaman 1 / 22
media r/LocalLLaMA · 5 jam lalu

Pemrosesan prompt terdisagregasi dengan DGX Spark dan Strix Halo

Seorang pengguna mendemonstrasikan pipeline inferensi terdisagregasi menggunakan DGX Spark untuk prefilling dan kotak Strix Halo untuk generasi token, mencapai percepatan signifikan untuk beban kerja konteks panjang. Dengan mengalihkan pemrosesan prompt yang intensif secara komputasi ke DGX sambil memanfaatkan bandwidth memori Strix untuk decoding, pengaturan ini mengatasi degradasi kinerja yang terlihat saat berjalan sendiri di Strix.
arxiv arXiv cs.CL · 6 jam lalu

Penilaian otomatis ujian Linux/bash menggunakan model bahasa besar

Studi ini mengevaluasi apakah empat Model Bahasa Besar (LLM) terdepan (GPT, Claude Opus, Gemini, dan GLM) dapat mengaproksimasi penilaian ahli saat menilai respons perintah Linux/bash yang pendek. Penelitian ini menunjukkan bahwa prompt terstruktur secara signifikan meningkatkan kesesuaian dengan penilai manusia, menetapkan kerangka kerja untuk penilaian yang dibantu AI dalam pendidikan komputing.
arxiv arXiv cs.CL · 6 jam lalu

EvoPolicyGym: Mengevaluasi Evolusi Kebijakan Otomatis di Lingkungan Interaktif

Artikel ini memperkenalkan EvoPolicyGym, sebuah benchmark yang dirancang untuk mengevaluasi bagaimana agen secara iteratif meningkatkan kebijakan yang dapat dieksekusi melalui umpan balik dalam batas interaksi tetap. Pengaturan terkontrol ini mengatasi keterbatasan evaluasi yang ada yang sering kali meruntuhkan proses menjadi skor akhir atau mencampuradukkannya dengan kemajuan teknik perangkat lunak.
arxiv arXiv cs.CL · 8 jam lalu

Apakah Skala Akan Meningkatkan Simulasi Sosial dengan LLM?

Studi ini menyelidiki apakah paradigma penskalaan model bahasa saat ini dapat menutup kesenjangan kesetiaan dalam simulasi sosial di pemodelan opini, simulasi perilaku, dan peramalan longitudinal. Menggunakan 85 model transformer Qwen3 yang dilatih pada korpus DCLM dengan anggaran komputasi tetap dari $10^{18}$ hingga $10^{20}$ FLOPs, para penulis menganalisis hubungan antara skala komputasi dan akurasi simulasi.
arxiv arXiv cs.CL · 9 jam lalu

Menuju Robustness terhadap Serangan Tipografi dengan Lokalisasi Konsep Tanpa Pelatihan

Para penulis mengusulkan metode tanpa pelatihan untuk mengurangi serangan tipografi dalam encoder visi berbasis CLIP, di mana teks yang tidak relevan membiaskan representasi visual menuju makna leksikal. Dengan menggunakan interpretasi berbasis sampling dan penambangan sirkuit, pendekatan ini mengisolasi komponen Vision Transformer tertentu yang bertanggung jawab atas pengodean informasi leksikal yang tidak diinginkan ini.
arxiv arXiv cs.CL · 9 jam lalu

Apa yang Katakan Agen LLM Saat Tidak Ada yang Mengawasi: Struktur Sosial dan Munculnya Tujuan Tersembunyi dalam Debat Multi-Agen

Studi ini menyelidiki bagaimana struktur sosial mempengaruhi ekspresi publik agen LLM dengan membandingkan ucapan publik mereka terhadap respons off-the-record (OTR) dalam kerangka debat dua-saluran. Penelitian ini menunjukkan bahwa pengaturan yang memicu kecocokan menyebabkan divergensi sistematis antara saluran-saluran ini, dengan divergensi keputusan meningkat dari basis ~3% menjadi sekitar 40% di seluruh 10 model dan beberapa skenario.
arxiv arXiv cs.CL · 10 jam lalu

LACUNA: Sebuah Testbed untuk Mengevaluasi Presisi Lokalisasi untuk Penghapusan Pengetahuan LLM

Para peneliti memperkenalkan LACUNA, testbed penghapusan pengetahuan pertama yang menampilkan lokalisasi tingkat parameter ground-truth untuk mengatasi kesenjangan dalam mengevaluasi apakah penghapusan pengetahuan benar-benar menghapus pengetahuan dari parameter model. Testbed ini menyuntikkan PII individu sintetis ke dalam parameter yang telah ditentukan sebelumnya pada model berbasis OLMo berukuran 1B dan 7B melalui pra-pelatihan berkelanjutan dengan masking.