Versi llama.cpp b9738 memperbaiki proxy CORS untuk menghindari penerusan header autentikasi. Rilis ini mencakup pembangunan biner untuk macOS, Linux, Android, Windows, dan openEuler di berbagai arsitektur dan opsi akselerasi perangkat keras, termasuk Vulkan, CUDA, OpenVINO, dan SYCL.
Proyek ggml telah mengoptimalkan kinerja AMX dengan melakukan flattening pada partisi atas n_batch * M, memastikan semua thread berpartisipasi dalam kuantisasi. Perubahan ini meningkatkan kecepatan hingga 1.47x di berbagai model dan konfigurasi perangkat keras pada platform CPU dan GPU, dengan hasil menunjukkan peningkatan konsisten dalam waktu inferensi.
Pengindeks DSA model GLM-5.2 dimuat secara salah pada semua lapisan, menyebabkan kegagalan karena tensor yang hilang. Pembaruan menandai tensor pengindeks sebagai TENSOR_NOT_REQUIRED, memungkinkan lapisan tanpa pengindeks untuk dimuat sebagai nullptr dan mengaktifkan perhatian MLA penuh. DeepSeek-V3.2, dengan pengindeksan seragam, tidak terpengaruh.
Sebuah pull request telah diajukan untuk menambahkan antarmuka web prabangun untuk arsitektur s390x di Docker. Perubahan ini saat ini menunggu rilis dan belum dipublikasikan.
LLaMA.cpp merilis versi b9732 dengan binari yang diperbarui untuk macOS, Linux, Android, Windows, dan openEuler. Rilis ini mencakup komunikasi anak-ke-router yang direfaktor, perbaikan penanganan wakeup, peningkatan update_status(), dan dokumentasi. Build baru mendukung Vulkan, ROCm, OpenVINO, SYCL, dan CUDA 12/13 pada beberapa arsitektur.
Proyek ggml-webgpu telah menambahkan toggle adapter untuk dukungan presisi setengah (F16) pada GPU Vulkan dan NVIDIA. Pembaruan ini mengaktifkan kinerja yang lebih baik pada perangkat keras yang kompatibel di berbagai platform, termasuk macOS, Linux, Android, Windows, dan openEuler, dengan build khusus tersedia untuk arsitektur ARM dan x64.
Versi llama.cpp b9731 memperkenalkan optimisasi menggunakan std::partial_sort untuk mengurangi overhead pengurutan token, meningkatkan kinerja dari 8.555ms menjadi 0.704ms untuk pemilihan top-n token. Rilis ini mencakup binari pra-bangun untuk macOS, Linux, Android, Windows, dan openEuler di berbagai arsitektur dan opsi akselerasi perangkat keras.
Versi llama.cpp b9730 menyertakan perbaikan untuk penanganan UTF-8 di Windows serta peningkatan pada ggml_fopen dan CLI. Rilis ini menyediakan biner untuk macOS, Linux, Android, Windows, dan openEuler di berbagai arsitektur dan opsi akselerasi perangkat keras, termasuk Vulkan, CUDA, OpenVINO, dan SYCL.
LLaMA.cpp merilis versi b9729 dengan binari untuk macOS, Linux, Android, Windows, dan openEuler di berbagai arsitektur. Rilis ini mencakup dukungan CPU, Vulkan, OpenVINO, SYCL, dan ROCm, serta paket UI baru. Referensi internal ke 'webui' telah dihapus.
Versi b9728 dari LLaMA.cpp memperkenalkan dukungan untuk baris komentar dalam konfigurasi --api-key-file. Rilis ini mencakup binari yang telah dibangun sebelumnya untuk macOS, Linux, Android, Windows, dan openEuler di berbagai arsitektur dan opsi akselerasi perangkat keras, termasuk Vulkan, CUDA, OpenVINO, dan SYCL.
llama.cpp versi b9726 memperkenalkan argumen --agent baru dan menghapus kompatibilitas penamaan webui yang redundan. Rilis ini mencakup biner pra-kompilasi untuk macOS, Linux, Android, Windows, dan openEuler di berbagai arsitektur dan opsi akselerasi perangkat keras.
Versi b9727 dari llama.cpp memperbarui cpp-httplib ke versi 0.48.0. Rilis ini mencakup biner untuk macOS, Linux, Android, Windows, dan openEuler di berbagai arsitektur dan opsi akselerasi perangkat keras, termasuk Vulkan, CUDA, OpenVINO, dan SYCL.
Proyek Docker telah menambahkan dukungan untuk membangun komponen UI. Pembaruan ini juga mencakup penggunaan APP_VERSION yang sudah ada dalam konfigurasi kontainer.
llama.cpp versi b9724 menyertakan beberapa perbaikan bug dan peningkatan, seperti perbaikan build, penghindaran overflow pada fungsi area(), dan pemeriksaan kewarasan di get_u32(). Rilis ini menyediakan binari pra-dibangun untuk macOS (arm64 dan x64), Linux (x64, arm64, s390x, Vulkan, ROCm, OpenVINO, SYCL), Android (arm64), Windows (x64, arm64, CUDA 12/13, Vulkan, OpenVINO, SYCL, HIP), dan openEuler (x86 dan aarch64 dengan dukungan ACL Graph), serta paket UI.
Versi llama.cpp b9723 memperkenalkan dukungan untuk model Qwen3.5 dan Qwen3.6 melalui Eagle3. Rilis ini mencakup pemulihan titik batas tertunda untuk model hibrida dan pembaruan pada konvensi API dan penamaan. Build biner tersedia untuk platform macOS, Linux, Android, Windows, dan openEuler, dengan opsi untuk CPU, Vulkan, OpenVINO, SYCL, dan ROCm.
Versi b9722 dari LLaMA.cpp memperbaiki masalah nilai n_discard yang tidak terikat dalam penanganan konteks server. Rilis ini mencakup binari pra-kompilasi untuk macOS, Linux, Android, Windows, dan openEuler, mendukung berbagai arsitektur dan framework akselerasi seperti Vulkan, CUDA, OpenVINO, dan SYCL.
llama.cpp versi b9718 mengonsolidasi seleksi slot ke dalam satu fungsi, get_available_slot, sambil mempertahankan pemeriksaan kesamaan LCP untuk pembaruan cache prompt. Rilis ini mencakup build biner untuk macOS, Linux, Android, Windows, dan openEuler di berbagai arsitektur dan opsi akselerasi perangkat keras.
llama.cpp telah merilis versi b9721, menawarkan biner untuk macOS, Linux, Android, Windows, dan openEuler di berbagai arsitektur. Rilis ini mencakup dukungan CPU, Vulkan, ROCm, OpenVINO, SYCL, dan HIP, dengan paket UI khusus. Fitur untuk Apple Silicon dengan KleidiAI saat ini dinonaktifkan.
ggml-cpu kini mendukung ekor K dalam matmul MMA Q8/Q4 Power10, menghapus persyaratan bahwa K harus dapat dibagi dengan kc. Ini memungkinkan lebih banyak beban kerja untuk menggunakan kernel MMA dan mengurangi fallback ke mnpack.
Rilis v0.17.6 menambahkan pengaman input alat pra-persetujuan dan data kustom hanya untuk SDK untuk output alat. Ini juga menegakkan kontrak yang kompatibel dengan JSON secara ketat untuk output alat dan menekan peringatan whitespace yang tidak perlu dalam nama alat. @siddiksawani membuat kontribusi pertamanya dalam rilis ini.