media Hugging Face Forums · baru saja · open_models

Sfeir merilis Esus untuk memindahkan tugas deterministik dari LLM kecil

Diterjemahkan dari English → Bahasa Indonesia

Sfeir telah merilis Esus, sebuah sistem generasi kode eksperimental sumber terbuka yang memungkinkan model 4B menghasilkan aplikasi Python yang dapat digunakan dengan mendelegasikan keputusan terformalisasi ke kernel deterministik.

Arsitektur membagi tanggung jawab: LLM menginterpretasi spesifikasi dan menangani penalaran semantik, sementara kernel deterministik membangun struktur, merender kode yang dapat diprediksi, menghubungkan komponen, dan memvalidasi invarian.
Pendekatan ini mengalihkan fokus dari membuat model kecil meniru model besar ke menentukan beban pengambilan keputusan minimum yang diperlukan untuk model.
Proyek ini mencakup detail arsitektur yang diterbitkan, eksperimen, dan hasil benchmark.

Sistem ini bertujuan meningkatkan keandalan dengan membatasi elemen probabilistik hanya pada tugas penalaran sambil memastikan integritas struktural melalui generasi kode deterministik.

Kepentingan 1/3 Kepercayaan 1/3 Hugging Face Forums Code generation Local inference

Baca aslinya

Pengembang indie meningkatkan Hex Judge dari Gemma 2 9B ke Gemma 4 E4B

Seorang pengembang indie solo asal Jepang telah meningkatkan LLM lokal dalam permainan komersial mereka, Hex Judge, dari Gemma 2 9B menjadi Gemma 4 E4B. Permainan investigasi persidangan penyihir abad pertengahan ini menggunakan dialog yang dihasilkan AI untuk interaksi pemain.

github llama.cpp · 50 hari lalu · 22 tayangan

llama.cpp b10271 menambahkan direktori kerja per percakapan dan dukungan jalur Windows

Rilis llama.cpp b10271 memperkenalkan fitur direktori kerja per percakapan ke UI, memungkinkan pengguna untuk menetapkan dan menavigasi direktori secara independen untuk setiap sesi chat.

media Hugging Face Forums · 62 hari lalu · 14 tayangan

Forge menghasilkan dan mengompilasi UI sandboxed untuk model Hugging Face di browser

Amin Musah membangun Forge, sebuah playground open-source di browser untuk model Hugging Face yang secara dinamis menghasilkan antarmuka pengguna menggunakan model kode terpisah. Sistem membuat komponen TSX berdasarkan spesifikasi tugas, yang kemudian dikompilasi oleh browser di sisi klien dengan esbuild-wasm dan dijalankan dalam iframe sandboxed.

github llama.cpp · 4 jam lalu · 12 tayangan

llama.cpp b11122 memperluas fusi MMVQ GLU dan menambahkan fusi SYCL baru

Proyek llama.cpp telah merilis versi b11122, yang mencakup pembaruan signifikan untuk backend SYCL. Rilis ini memperluas fusi MMVQ GLU untuk mendukung jenis kuantisasi campuran dan memperkenalkan fusi baru untuk operasi rms_norm+scale dan ssm_conv+silu.

github llama.cpp · 5 jam lalu · 12 tayangan

llama.cpp b11120 menyembunyikan simbol internal Vulkan untuk memperbaiki penghancuran state

Proyek llama.cpp merilis versi b11120, yang mengatasi bug kritis pada backend Vulkan dengan menyembunyikan simbol internal. Perubahan ini mencegah masalah penghancuran state akibat duplicate-dlopen yang terjadi ketika simbol internal diekspor.