Docker: Bangun UI (#24794)
Proyek Docker telah menambahkan dukungan untuk membangun komponen UI. Pembaruan ini juga mencakup penggunaan APP_VERSION yang sudah ada dalam konfigurasi kontainer.
llama.cpp Rilis b9724 dengan Perbaikan Bug dan Binari Lintas Platform
llama.cpp versi b9724 menyertakan beberapa perbaikan bug dan peningkatan, seperti perbaikan build, penghindaran overflow pada fungsi area(), dan pemeriksaan kewarasan di get_u32(). Rilis ini menyediakan binari pra-dibangun untuk macOS (arm64 dan x64), Linux (x64, arm64, s390x, Vulkan, ROCm, OpenVINO, SYCL), Android (arm64), Windows (x64, arm64, CUDA 12/13, Vulkan, OpenVINO, SYCL, HIP), dan openEuler (x86 dan aarch64 dengan dukungan ACL Graph), serta paket UI.
llama.cpp release b9723 menambahkan dukungan untuk Qwen3.5 dan Qwen3.6 Eagle3
Versi llama.cpp b9723 memperkenalkan dukungan untuk model Qwen3.5 dan Qwen3.6 melalui Eagle3. Rilis ini mencakup pemulihan titik batas tertunda untuk model hibrida dan pembaruan pada konvensi API dan penamaan. Build biner tersedia untuk platform macOS, Linux, Android, Windows, dan openEuler, dengan opsi untuk CPU, Vulkan, OpenVINO, SYCL, dan ROCm.
Rilis LLaMA.cpp b9722: Perbaikan dan Binari lintas-platform
Versi b9722 dari LLaMA.cpp memperbaiki masalah nilai n_discard yang tidak terikat dalam penanganan konteks server. Rilis ini mencakup binari pra-kompilasi untuk macOS, Linux, Android, Windows, dan openEuler, mendukung berbagai arsitektur dan framework akselerasi seperti Vulkan, CUDA, OpenVINO, dan SYCL.
llama.cpp rilis b9718: seleksi slot yang dikonsolidasi dan build biner baru
llama.cpp versi b9718 mengonsolidasi seleksi slot ke dalam satu fungsi, get_available_slot, sambil mempertahankan pemeriksaan kesamaan LCP untuk pembaruan cache prompt. Rilis ini mencakup build biner untuk macOS, Linux, Android, Windows, dan openEuler di berbagai arsitektur dan opsi akselerasi perangkat keras.
llama.cpp Release b9721 Tersedia untuk Berbagai Platform
llama.cpp telah merilis versi b9721, menawarkan biner untuk macOS, Linux, Android, Windows, dan openEuler di berbagai arsitektur. Rilis ini mencakup dukungan CPU, Vulkan, ROCm, OpenVINO, SYCL, dan HIP, dengan paket UI khusus. Fitur untuk Apple Silicon dengan KleidiAI saat ini dinonaktifkan.
ggml-cpu menambahkan dukungan ekor K untuk Power10 MMA Q8/Q4
ggml-cpu kini mendukung ekor K dalam matmul MMA Q8/Q4 Power10, menghapus persyaratan bahwa K harus dapat dibagi dengan kc. Ini memungkinkan lebih banyak beban kerja untuk menggunakan kernel MMA dan mengurangi fallback ke mnpack.
Catatan Rilis v0.17.6
Rilis v0.17.6 menambahkan pengaman input alat pra-persetujuan dan data kustom hanya untuk SDK untuk output alat. Ini juga menegakkan kontrak yang kompatibel dengan JSON secara ketat untuk output alat dan menekan peringatan whitespace yang tidak perlu dalam nama alat. @siddiksawani membuat kontribusi pertamanya dalam rilis ini.
llama.cpp Release b9716 Adds Batching Support for InternVL
Versi b9716 dari llama.cpp memperkenalkan dukungan batching untuk InternVL, meningkatkan performa model melalui pemrosesan batch yang efisien. Rilis ini mencakup build biner untuk macOS, Linux, Android, Windows, dan openEuler di berbagai arsitektur dan opsi akselerasi perangkat keras, termasuk Vulkan, OpenVINO, SYCL, dan ROCm.
llama.cpp merilis b9713 dengan biner dan fitur baru
llama.cpp telah merilis versi b9713, menambahkan dukungan batching ke mtmd-cli dan pengujian video. Rilis ini mencakup biner untuk macOS, Linux, Android, Windows, dan openEuler di berbagai arsitektur dan opsi akselerasi perangkat keras, termasuk Vulkan, CUDA, OpenVINO, dan SYCL.
llama.cpp rilis b9714 menambahkan header X-Accel-Buffering dan biner baru
Versi llama.cpp b9714 menambahkan header "X-Accel-Buffering": "no" ke endpoint streaming untuk mencegah Nginx melakukan buffering respons, yang menyelesaikan masalah streaming dengan aplikasi seperti harness koding Pi. Rilis ini mencakup biner untuk macOS, Linux, Android, Windows, dan openEuler di berbagai arsitektur dan opsi akselerasi perangkat keras.
LLaMA.cpp Release b9715 Adds CUDA Col2Im 1D and Multiple Platform Binaries
Versi LLaMA.cpp b9715 memperkenalkan dukungan CUDA untuk GGML_OP_COL2IM_1D, yang dibangun di atas implementasi CPU. Rilis ini mencakup biner untuk macOS, Linux, Android, Windows, dan openEuler di berbagai arsitektur dan framework akselerasi, termasuk Vulkan, ROCm, OpenVINO, dan SYCL.
Catatan Rilis v1.14.8a2
v1.14.8a2 menambahkan satu tindakan agen ke definisi Flow dan memvalidasi ekspresi CEL saat waktu muat. Ini mencakup panduan integrasi Datadog baru dengan dasbor operasi yang dapat diimpor, serta snapshot dan catatan perubahan yang diperbarui untuk v1.14.8a1.
llama.cpp merilis b9711: biner baru dan pembaruan
llama.cpp merilis versi b9711 dengan biner yang diperbarui untuk macOS, Linux, Android, Windows, dan openEuler. Rilis ini mencakup dukungan untuk ARM64, x64, Vulkan, ROCm, OpenVINO, SYCL, dan HIP, dengan biner khusus untuk akselerasi CPU dan GPU. Paket UI baru juga tersedia.
llama.cpp release b9712 memperbaiki build UI dengan sumber baca-saja
llama.cpp versi b9712 menyertakan perbaikan untuk masalah build UI yang disebabkan oleh file sumber baca-saja. Rilis ini menyediakan biner pra-dibangun untuk macOS, Linux, Android, Windows, dan openEuler di berbagai arsitektur dan opsi akselerasi perangkat keras, termasuk Vulkan, CUDA, OpenVINO, dan SYCL.
Catatan Rilis v2.1.183
v2.1.183 meningkatkan keamanan mode otomatis dengan memblokir perintah git dan destroy yang merusak tanpa persetujuan eksplisit dari pengguna. Ini menambahkan peringatan deprecasi untuk model, memperkenalkan attribution.sessionUrl untuk menyembunyikan tautan sesi, serta memperbaiki beberapa masalah termasuk perilaku terminal, kinerja subagent, dan penanganan input di lingkungan web dan tmux.
llama.cpp release b9707 menambahkan validasi skema dan build biner baru
Versi b9707 dari llama.cpp memperkenalkan validasi skema dan peningkatan pesan kesalahan. Ini mencakup build biner untuk macOS, Linux, Android, Windows, dan openEuler di berbagai arsitektur dan opsi akselerasi perangkat keras.
LangGraph merilis versi 1.2.6
LangGraph merilis versi 1.2.6, memperbaiki regresi di mana subgraf bertingkat secara keliru mewarisi parent checkpoint_ns. Pembaruan ini juga meningkatkan pembatalan subgraf yang sedang berjalan selama abort stream dan menyertakan pembaruan versi CLI ke 0.4.30.
Catatan Rilis v1.14.8a1
Versi 1.14.8a1 menambahkan ekspresi if opsional ke setiap langkah .do dan memperbaiki masalah JSON crew. Snapshot dan catatan perubahan untuk v1.14.8a telah diperbarui. Kontributor termasuk @joaomdmoura dan @vinibrsl.
llama.cpp Release b9703: Pembaruan dan Unduhan Biner
llama.cpp versi b9703 mencakup penataan ulang penanganan preset server, menghapus dukungan preset HF jarak jauh dan fungsi yang sudah usang. Rilis ini menyediakan biner untuk macOS, Linux, Android, Windows, dan openEuler di berbagai arsitektur dan opsi akselerasi perangkat keras, termasuk Vulkan, CUDA, OpenVINO, dan SYCL.