media Hugging Face Forums · 2 jam lalu · open_models

Qxern-v6 menggunakan token laten dan sidecar AST untuk transfer kode yang lebih cepat dan akurat

Diterjemahkan dari English → Bahasa Indonesia

Sistem Qxern-v6 memungkinkan dua LLM berkomunikasi melalui 32 token laten terkompresi sambil mempertahankan akurasi simbol yang tepat melalui sidecar Abstract Syntax Tree (AST) deterministik adaptif. Dibangun oleh pengembang berusia 15 tahun, arsitektur ini menggunakan Qwen2.5-Coder-1.5B untuk mengompresi kode dan decoder Qwen3.5-0.8B yang beku untuk menafsirkannya tanpa melihat teks mentah.

Akurasi nama fungsi mencapai 0.87, pulih dari 0.00 pada model laten murni.
Akurasi jumlah parameter mencapai 0.93, mengungguli baseline Text Relay sebesar +0.30.
Latensi median turun menjadi 511 ms, mencapai percepatan 2.4× dibandingkan relay teks 1222 ms.
Sistem ini menggabungkan laten semantik dengan ~30 token data AST deterministik melalui router adaptif.

Pendekatan hibrida ini menunjukkan bahwa laten kontinu dapat membawa semantik kode secara efisien pada latensi lebih rendah sementara sidecar memulihkan presisi simbolik yang diperlukan tanpa melatih ulang decoder.

Kepentingan 1/3 Kepercayaan 1/3 Hugging Face Forums Code generation Inference efficiency

Baca aslinya

Studi penagihan Claude Code menunjukkan pengurangan konteks tidak menurunkan biaya

Sebuah studi mengenai 2.848 eksekusi Claude Code yang ditagih oleh penyedia mengungkapkan bahwa mengurangi konteks yang diambil atau output alat tidak secara andal menurunkan biaya tagihan aktual agen pemrograman. Penelitian ini menantang metrik evaluasi umum penghapusan teks dengan menganalisis kampanye 2.908 eksekusi di tiga model dan tujuh repositori.

media r/LocalLLaMA · 21 hari lalu · 2 tayangan

Pengguna menjalankan Qwen3.6 35B A3B di VRAM 20GB + RAM 64GB untuk pemrograman lokal

Seorang pengguna Reddit berbagi pengalaman menjalankan model Qwen3.6 35B A3B secara lokal pada laptop yang dilengkapi dengan eGPU 7900XT 20GB dan RAM DDR5 64GB.

media r/LocalLLaMA · 23 hari lalu

Qwen3.6 35B-A3B menghasilkan simulator penerbangan dalam satu prompt

Seorang pengguna Reddit mendemonstrasikan Qwen3.6 35B-A3B menghasilkan simulator penerbangan yang lengkap dan menenangkan dengan gunung, awan, dan medan prosedural tanpa batas dari satu prompt.

media Hugging Face Forums · 24 hari lalu

Pengguna menjalankan Qwen3.6-27B-NVFP4 di DGX Spark dengan VRAM 120GB

Seorang pengguna melaporkan menjalankan model nvidia/Qwen3.6-27B-NVFP4 sebagai penggerak harian untuk tugas pemrograman agentic pada sistem NVIDIA DGX Spark. Konfigurasi memanfaatkan kuantisasi compressed-tensors dan dtype kv-cache fp8 untuk beroperasi dalam batas memori perangkat keras. Pengaturan kunci mencakup panjang model maksimum 131072, decoding spekulatif melalui MTP dengan 3 token, dan pilihan alat otomatis yang diaktifkan.

media r/LocalLLaMA · 25 hari lalu

Pengembang menguji kinerja kode Mistral Medium 3.5 (128b dense)

Seorang pengembang berbagi kesan awal menggunakan versi kuantisasi 3-bit dari model Mistral Medium 3.5 untuk tugas pemrograman. Pengguna melaporkan bahwa model tersebut mengidentifikasi masalah dalam proyek mereka yang dilewati oleh model harian sebelumnya, menggambarkan kinerjanya sebagai "sangat baik" meskipun lebih lambat daripada model Mixture-of-Experts (MoE).