github llama.cpp · 2 hari lalu · inference

llama.cpp b10684 meningkatkan akuntansi VRAM --fit untuk SYCL

Diterjemahkan dari English → Bahasa Indonesia

Proyek llama.cpp merilis versi b10684, yang mencakup perbaikan khusus untuk backend SYCL agar flag `--fit` lebih akurat menghormati `--fit-target`.

Algoritma `--fit` sekarang memperhitungkan VRAM puncak aktual yang diperlukan untuk ukuran konteks tertentu pada backend SYCL.
Ini mencegah kesalahan kehabisan memori dengan menghitung penggunaan VRAM secara tepat ketika konteks yang dialokasikan digunakan sepenuhnya.
Ini juga menghentikan perhitungan yang terlalu konservatif yang sebelumnya memesan terlalu banyak VRAM.
Pengujian pada Arc b70 dengan qwen3.8 dari unsloth (Q4_K_XL) menunjukkan konteks yang dapat digunakan sebesar 262144 dengan KV dan MTP di q8_0 menggunakan `--fit-target 1`.

Perubahan ini memungkinkan pengguna memanfaatkan konteks yang lebih besar pada perangkat keras SYCL tanpa kehabisan memori, sambil menghindari pemborosan VRAM yang dipesan dari perkiraan konservatif sebelumnya.

Kepentingan 1/3 Kepercayaan 1/3 llama.cpp Inference efficiency Local inference

Baca aslinya

llama.cpp b10721 memperbaiki crash WebGPU dan menambahkan dukungan CUDA 13.4 untuk Windows

Proyek llama.cpp telah merilis build b10721, yang mencakup perbaikan kritis untuk backend WebGPU dan memperluas dukungan perangkat keras di Windows.

github llama.cpp · 2 jam lalu

llama.cpp b10718 memperluas fusi MOE ke specdec dan multi-token

Proyek llama.cpp merilis versi b10718, yang mencakup pembaruan signifikan pada backend CUDA-nya. Perubahan paling notable adalah perluasan fusi Mixture of Experts (MOE) untuk mendukung decoding spekulatif (specdec), mengatasi keterbatasan sebelumnya di mana fusi MOE glu dan topk-router dibatasi hanya memproses satu token pada satu waktu.

github llama.cpp · 5 jam lalu · 1 tayangan

llama.cpp b10715 menggabungkan encoder DFlash ke dalam injeksi cache KV

Proyek llama.cpp merilis build b10715, yang mencakup optimasi kunci pada implementasi DFlash. Encoder DFlash sekarang digabungkan langsung ke dalam proses injeksi cache KV selama decoding.

github llama.cpp · 7 jam lalu · 1 tayangan

llama.cpp b10714 menyetel baris mat-vec Vulkan untuk Strix Halo

Proyek llama.cpp merilis build b10714, yang mencakup optimasi khusus untuk backend Vulkan yang menargetkan perangkat keras AMD Strix Halo. Pembaruan ini menyesuaikan jumlah baris perkalian matriks-vektor untuk meningkatkan kinerja selama inferensi batch.

github llama.cpp · 13 jam lalu · 3 tayangan

llama.cpp b10706 menambahkan dukungan SWIGLU_CLAMP dan shader Vulkan

Proyek llama.cpp telah merilis build b10706, memperkenalkan fungsionalitas baru ke backend ggml. Pembaruan ini mencakup penambahan SWIGLU_CLAMP dan implementasi shader Vulkan baru.