media r/LocalLLaMA · 2 jam lalu

Tindak lanjut: DeepSeek V4 Flash di 2x RTX PRO 6000 menyelesaikan tugas coding nyata lebih cepat daripada Sonnet dan Opus, dengan kualitas sekitar setara Sonnet

Sebuah benchmark tindak lanjut mengevaluasi DeepSeek V4 Flash yang berjalan pada dua GPU RTX PRO 6000 menggunakan vLLM, membandingkan kinerjanya dalam tugas coding dunia nyata terhadap model berbasis API seperti Claude Sonnet dan Opus. Studi ini menemukan bahwa meskipun Opus dan Fable mempertahankan kualitas kode yang lebih unggul, DeepSeek V4 Flash mencapai kualitas sekitar setara Sonnet dengan waktu wall-clock yang jauh lebih cepat.

media r/LocalLLaMA · 2 jam lalu

Pemetaan Node Lokal - Mildlyinteresting

Penulis berbagi pengamatan tentang pemetaan dan pengarahan model lokal berdasarkan jalur aktivasi mereka selama konteks tertentu. Postingan ini menyoroti variasi dalam jalur aktivasi di berbagai model saat menjawab serangkaian prompt batch.

github llama.cpp · 4 jam lalu

Rilis llama.cpp b9861 dengan pembaruan cpp-httplib

Proyek llama.cpp telah merilis versi b9861, yang mencakup pembaruan vendor ke cpp-httplib 0.49.0.

media r/LocalLLaMA · 5 jam lalu

GLM-5.2 NVFP4 pada empat DGX Sparks — misteri MTP terpecahkan, kini ~24 tok/s pada konteks 128K

Investigasi lanjutan tentang menjalankan GLM-5.2 NVFP4 pada empat node DGX Spark menyelesaikan bottleneck kinerja sebelumnya di mana tingkat penerimaan tinggi tidak mungkin dicapai pada konteks 128K.

media r/LocalLLaMA · 5 jam lalu

Claude Code mengaktifkan mekanisme saat ANTHROPIC_BASE_URL ditetapkan

Seorang peneliti telah mengidentifikasi mekanisme dalam Claude Code yang diaktifkan ketika pengguna menetapkan variabel lingkungan ANTHROPIC_BASE_URL, yang biasanya digunakan untuk model lokal. Proses ini melibatkan dekripsi dan penguraian daftar nama host mencurigakan yang tertanam dalam kode perangkat lunak.

media Hugging Face Forums · 7 jam lalu

Octopus Smart Membangun Sistem Analisis Piala Dunia Berbasis AI

Octopus Smart sedang mengembangkan Octopus Football, sebuah platform analitik untuk Piala Dunia dan turnamen profesional yang memanfaatkan orkestrasi kecerdasan pertandingan berbasis AI. Sistem ini menggabungkan model analitik prediktif dengan agen kecerdasan data untuk menyediakan pemodelan kinerja tim, peringkat pemain, dan ringkasan pertandingan otomatis.

arxiv arXiv cs.CL · 7 jam lalu

Tantangan dan Rekomendasi untuk LLM-as-a-Judge dalam Pengaturan Multibahasa

Artikel ini meneliti keandalan penggunaan Model Bahasa Besar sebagai evaluator dalam konteks multibahasa dan bahasa dengan sumber daya rendah, menyoroti kesenjangan signifikan dalam praktik saat ini. Penulis menganalisis 650 makalah ACL Anthology untuk mengidentifikasi inkonsistensi dan ketergantungan berlebihan pada model judge tunggal.

arxiv arXiv cs.CL · 7 jam lalu

AgenticSTS: Testbed Memori Terbatas untuk Agen LLM Horison Panjang

Para penulis memperkenalkan AgenticSTS, sebuah testbed yang dirancang untuk mempelajari bagaimana lapisan memori eksplisit membentuk keputusan agen LLM horison panjang. Ini memanfaatkan kontrak memori terbatas dalam game Slay the Spire 2 di mana prompt dirakit melalui pengambilan berbasis tipe daripada menambahkan transkrip mentah.

arxiv arXiv cs.CL · 8 jam lalu

BamiBERT: Model Bahasa Baru Berbasis BERT untuk Bahasa Vietnam

Para peneliti memperkenalkan BamiBERT, model bahasa pra-pelatihan berbasis BERT baru untuk bahasa Vietnam yang dirancang untuk mengatasi keterbatasan standar saat ini, PhoBERT. Dilatih dari awal pada korpus 129GB selama 20 epoch, model ini mendukung panjang konteks yang diperluas hingga 2048 token dan beroperasi langsung pada input mentah tanpa segmentasi kata eksternal.

arxiv arXiv cs.CL · 8 jam lalu

CheckRLM: Pengecekan Koherensi Pengetahuan-Pemikiran yang Efektif dalam Penalaran Berbasis Retrieval

Para penulis mengusulkan CheckRLM, sebuah kerangka kerja yang meningkatkan keandalan Model Bahasa Penalaran dengan menggunakan Generasi Berbasis Retrieval untuk memeriksa dan memperbaiki kesalahan faktual secara tepat waktu selama inferensi. Pendekatan ini mengekstrak klaim faktual dari rantai penalaran untuk mengidentifikasi inkonsistensi dan menerapkan koreksi berbiaya minimal melalui pengetahuan eksternal.

arxiv arXiv cs.CL · 8 jam lalu

HERMES: Substrat Pelabelan Multi-Granularitas untuk Campuran Data Pra-pelatihan

HERMES adalah substrat pelabelan yang diturunkan dari data yang menggunakan Transformasi Semantik Terlatih dan kuantisasi vektor residual 3 tahap untuk memberi anotasi dokumen ke dalam kode kasar-hingga-halus dengan hingga sekitar 130k sel.

arxiv arXiv cs.CL · 8 jam lalu

Tentang Peran Arah dalam Generalisasi Struktural

Artikel ini memperkenalkan backend simbolik yang didesain ulang untuk AM-Parser yang memanfaatkan tipe berarah CCG untuk menangani perbedaan arah dengan lebih baik dalam tugas generalisasi struktural seperti pergeseran posisi modifier.

media r/LocalLLaMA · 9 jam lalu

Pemrosesan prompt terdisagregasi dengan DGX Spark dan Strix Halo

Seorang pengguna mendemonstrasikan pipeline inferensi terdisagregasi menggunakan DGX Spark untuk prefilling dan kotak Strix Halo untuk generasi token, mencapai percepatan signifikan untuk beban kerja konteks panjang. Dengan mengalihkan pemrosesan prompt yang intensif secara komputasi ke DGX sambil memanfaatkan bandwidth memori Strix untuk decoding, pengaturan ini mengatasi degradasi kinerja yang terlihat saat berjalan sendiri di Strix.

arxiv arXiv cs.CL · 9 jam lalu

HNSW dengan Jaminan Akurasi Menggunakan Spanner Graf

Laporan teknis ini memperkenalkan kerangka kerja "Certify-then-Rectify" yang menggabungkan kecepatan graf Hierarchical Navigable Small World (HNSW) dengan jaminan kebenaran teoretis. Metode ini secara dinamis mengevaluasi kualitas pencarian dan meningkatkan ke algoritma pemulihan eksak jika diperlukan, memastikan akurasi kasus terburuk.

arxiv arXiv cs.CL · 9 jam lalu

SkillFuzz: Fuzzing Komposisi Keterampilan untuk Penemuan Intent Implisit di Pasar Keterampilan Terbuka

Makalah ini memperkenalkan SkillFuzz, sebuah pendekatan pengujian bebas eksekusi yang dirancang untuk menemukan intent implisit di pasar keterampilan terbuka di mana keterampilan yang secara individual tidak berbahaya dapat berinteraksi untuk mengalihkan agen menuju tujuan yang tidak diinginkan. Dengan memformulasikan penemuan ini sebagai masalah fuzzing atas komposisi keterampilan, metode ini mengekstrak kontrak terstruktur dan menggunakan Pencarian Pohon Monte Carlo yang dipandu kontrak untuk memprioritaskan kombinasi yang berpotensi konflik.

arxiv arXiv cs.CL · 10 jam lalu

Model Dunia: Alat Sastra untuk AI Budaya

Artikel ini berargumen bahwa disiplin sastra menyediakan alat yang sangat diperlukan untuk membangun AI yang melek budaya, mengatasi keterbatasan model bahasa besar monolingual.

arxiv arXiv cs.CL · 10 jam lalu

HULAT2 di MER-TRANS 2026: Penyederhanaan Multi-Agen yang Dikelola untuk Generasi Bacaan Mudah Bahasa Spanyol

Makalah ini mendetailkan partisipasi HULAT2-UC3M dalam trek bahasa Spanyol MER-TRANS 2026, sebuah tugas bersama tentang terjemahan bacaan mudah multibahasa. Tim mengirimkan tiga jalankan sepenuhnya otomatis yang membandingkan alur kerja multi-agen dengan baseline linier untuk mengevaluasi strategi penyederhanaan.

arxiv arXiv cs.CL · 10 jam lalu

Kenali Sumber Anda: Toko Pengetahuan Publik untuk Pemeriksaan Latar Belakang Media

Para penulis memperkenalkan MEDIAREF, sebuah toko pengetahuan yang tersedia secara publik dari dokumen bersumber web yang dirancang untuk memungkinkan evaluasi yang dapat direproduksi dan berbiaya rendah untuk pemeriksaan latar belakang media (MBC). Alat ini mengatasi ketergantungan pada API pencarian proprietaris yang mahal dalam pendekatan penalaran kritis sumber terbaru.

arxiv arXiv cs.CL · 10 jam lalu

Pola Migrasi Akademik dalam Pemrosesan Bahasa Alami

Sebuah studi yang menganalisis penelitian NLP dari tahun 2010 hingga 2026 menemukan bahwa pusat gravitasi disiplin ilmu bergeser seiring dengan kemajuan Model Bahasa Besar yang mengaburkan batas antara NLP dan Pembelajaran Mesin umum.

arxiv arXiv cs.CL · 10 jam lalu

Penilaian otomatis ujian Linux/bash menggunakan model bahasa besar

Studi ini mengevaluasi apakah empat Model Bahasa Besar (LLM) terdepan (GPT, Claude Opus, Gemini, dan GLM) dapat mengaproksimasi penilaian ahli saat menilai respons perintah Linux/bash yang pendek. Penelitian ini menunjukkan bahwa prompt terstruktur secara signifikan meningkatkan kesesuaian dengan penilai manusia, menetapkan kerangka kerja untuk penilaian yang dibantu AI dalam pendidikan komputing.