github llama.cpp · baru saja · inference

llama.cpp b11338 menambahkan salinan DMA strided bersama untuk CPY dan CONCAT

Diterjemahkan dari English → Bahasa Indonesia

Proyek llama.cpp merilis build b11338, memperkenalkan mekanisme salinan Direct Memory Access (DMA) strided bersama untuk operasi CPY dan CONCAT. Pembaruan ini memungkinkan CONCAT dimensi apa pun melalui DMA pada arsitektur Hexagon.

Mengimplementasikan salinan DMA strided bersama untuk operasi CPY dan CONCAT.
Mengaktifkan CONCAT dimensi apa pun melalui DMA.
Menghapus logika CONCAT_DMA_MIN_ROW yang rusak yang tidak kompatibel dengan DMA 64-bit.
Menambahkan panggilan dma_queue_flush() yang hilang dan pengaman tambahan untuk kondisi yang tidak didukung.

Rilis ini menyediakan biner untuk macOS, Linux, Windows, Android, dan openEuler di seluruh backend CPU, GPU, dan NPU.

Kepentingan 1/3 Kepercayaan 1/3 llama.cpp Hugging Face Inference efficiency

Baca aslinya

llama.cpp b11335 merute sm70 ke tabel Turing MMVQ untuk performa Volta

Proyek llama.cpp merilis versi b11335, yang mencakup optimasi CUDA untuk GPU Volta. Pembaruan ini mengarahkan arsitektur sm_70 ke tabel nwarps Turing MMVQ yang ada alih-alih jatuh ke konfigurasi generik.

github llama.cpp · 3 jam lalu · 1 tayangan

llama.cpp b11333 menambahkan dukungan bfloat16 untuk WebGPU pada operasi MUL_MAT

Proyek llama.cpp telah merilis build b11333, yang memperkenalkan dukungan bfloat16 untuk operasi MUL_MAT, MUL_MAT_ID, dan GET_ROWS di dalam backend WebGPU-nya.

github llama.cpp · 1 hari lalu · 5 tayangan

llama.cpp b11309 mengoptimalkan ALLREDUCE Hexagon dengan mode scatter aman

Proyek llama.cpp merilis versi b11309, yang mencakup optimasi kunci untuk backend Hexagon. Pembaruan ini menambahkan dukungan untuk mode scatter aman ke operasi ALLREDUCE, bertujuan untuk meningkatkan kinerja dan stabilitas pada perangkat Qualcomm Snapdragon.

github llama.cpp · 2 hari lalu · 9 tayangan

llama.cpp menambahkan dukungan GLM-5.3-Flash dengan perbaikan k-pool dan MTP

Proyek llama.cpp telah menambahkan dukungan awal untuk arsitektur model GLM-5.3-Flash (GLM5-Next), termasuk migrasi ke memori indeks hibrida dan kemampuan Multi-Token Prediction (MTP) awal.

github llama.cpp · 2 hari lalu · 5 tayangan

llama.cpp b11266 memuat matriks A F32 dua kali untuk Vulkan pada Intel

Proyek llama.cpp merilis build b11266, yang mencakup optimasi Vulkan yang memuat matriks A F32 dua elemen sekaligus ketika mereka sejajar 2. Perubahan ini mengatasi masalah kinerja pada perangkat keras Intel di mana memuat float satu per satu tidak efisien, dan juga memperbaiki validasi yang hilang untuk penjajaran `a_offset` dalam patch asli.