github llama.cpp · 1 hari lalu · inference

llama.cpp b10955 memperbaiki korupsi heap di ggml-cpu

Diterjemahkan dari English → Bahasa Indonesia

Proyek llama.cpp merilis versi b10955, yang mencakup perbaikan kritis untuk korupsi heap di dalam backend ggml-cpu. Pembaruan ini menonaktifkan header pra-kompilasi (PCH) dan menghapus definisi CACHE_LINE_SIZE yang ambigu untuk menyelesaikan masalah keamanan memori.

Menonaktifkan PCH ggml-cpu memulihkan urutan include alami, memastikan ops.h diproses sebelum header interferensi perangkat keras.
Menghapus cabang std::hardware_destructive_interference_size membuat CACHE_LINE_SIZE deterministik dan independen dari urutan include.
Perbaikan ini menyelesaikan ketidaksesuaian di mana kernel C++ menggunakan baris cache 256-byte sementara kode C menggunakan fallback 64-byte, yang sebelumnya membuat buffer kerja rope terlalu kecil.
Koreksi ini mencegah crash heap-buffer-overflow di ggml_compute_forward_rope_flt yang disebabkan oleh perbedaan ukuran buffer.

Rilis ini menyediakan biner untuk platform macOS (Apple Silicon dan Intel), Linux (x64, arm64, s390x), Windows (CPU, CUDA, Vulkan, ROCm, OpenVINO, SYCL), Android, dan openEuler.

Kepentingan 1/3 Kepercayaan 1/3 llama.cpp Hugging Face Inference efficiency

Artikel terkait

github llama.cpp · 1 jam lalu · 1 tayangan Langsung

llama.cpp b10984 menambahkan dukungan CUDA untuk SUM_ROWS baris-kontigu

Proyek llama.cpp merilis versi b10984, memperkenalkan dukungan CUDA untuk operasi SUM_ROWS baris-kontigu. Pembaruan ini juga mengatur kode untuk menyertakan GGML_OP_MEAN guna menangani tensor baris-kontigu melalui kernel bersama.

github llama.cpp · 2 jam lalu · 1 tayangan

llama.cpp b10985 membatasi cache hash RPC ke bobot

Proyek llama.cpp merilis build b10985, yang memodifikasi backend RPC untuk membatasi caching berbasis hash secara eksklusif ke tensor bobot. Perubahan ini mengatasi masalah di mana data aktivasi tidak perlu di-hash dan disimpan, menyebabkan penggunaan disk yang berlebihan.

github llama.cpp · 4 jam lalu · 2 tayangan

llama.cpp b10981 memperbaiki decode stateful untuk Gemma-4 dan mengoptimalkan inferensi GPU MoE

Rilis llama.cpp b10981 mengatasi masalah korektivitas kritis pada jalur decoding stateful backend OpenVINO, khususnya memperbaiki dukungan untuk model seperti Gemma-4 yang menggunakan ukuran kepala per-layer. Rilis ini juga memperkenalkan optimisasi untuk inferensi Mixture of Experts (MoE) GPU dan meningkatkan kinerja melalui relayout state KV.

github llama.cpp · 5 jam lalu · 1 tayangan

llama.cpp menambahkan kernel Metal FA untuk HSK=96, HSV=64 MiniCPM3

Proyek llama.cpp telah menambahkan dukungan kernel Flash Attention (FA) untuk konfigurasi spesifik yang digunakan oleh MiniCPM3 di Apple Silicon. Perubahan ini mengatasi crash di mana flag `-fa auto` akan abort karena kurangnya instansiasi kernel untuk panjang kunci perhatian 96 dan panjang nilai 64.

github llama.cpp · 19 jam lalu · 3 tayangan

Rilis llama.cpp b10970 menggunakan akumulasi fp32 pada perangkat MFMA

Proyek llama.cpp telah merilis versi b10970, yang mencakup pembaruan teknis pada backend fattn-mma. Perubahan ini mengimplementasikan penggunaan akumulator fp32 secara khusus untuk perangkat arsitektur CDNA.