github llama.cpp · baru saja · inference

llama.cpp b11301 memperbaiki overflow integer di ggml/gguf

Diterjemahkan dari English → Bahasa Indonesia

Proyek llama.cpp telah merilis build b11301, yang mencakup perbaikan untuk masalah overflow integer dalam komponen ggml dan gguf. Pembaruan ini menangani logika validasi untuk mencegah potensi kesalahan saat menangani tensor nol elemen.

Memperbaiki guard overflow integer untuk tensor nol elemen di ggml.
Memvalidasi jumlah elemen dalam tensor untuk mencegah overflow integer.
Memperbaiki pencetakan error di modul ggml.

Rilis ini menyediakan biner untuk macOS, Linux, Windows, Android, dan openEuler melalui backend CPU, GPU (CUDA, Vulkan, ROCm, OpenCL), dan NPU.

Kepentingan 1/3 Kepercayaan 1/3 llama.cpp Inference efficiency Local inference

Baca aslinya

llama.cpp b11302 memperbaiki race data ThreadSanitizer pada pengindeks jarang

Proyek llama.cpp merilis build b11302, yang mengatasi masalah konkurensi kritis yang diidentifikasi oleh ThreadSanitizer dalam pipeline CI. Pembaruan ini menyelesaikan race data dalam mekanisme perhatian jarang di mana beberapa utas CPU secara tidak benar menulis ke elemen memori yang sama.

github llama.cpp · 1 jam lalu · 2 tayangan Langsung

llama.cpp b11302 memperbaiki race data ThreadSanitizer pada pengindeks jarang

llama.cpp b11298 menambahkan dukungan dflash untuk konversi dan ekstraksi fitur

llama.cpp b11284 memperbaiki GET_ROWS OpenVINO pada tampilan bobot terkuantisasi

llama.cpp menambahkan dukungan GLM-5.3-Flash dengan perbaikan k-pool dan MTP

llama.cpp b11272 mengoptimalkan operasi penggabungan Hexagon