Проект llama.cpp выпустил версию b10000, которая включает важное обновление бэкенда ggml. Это изменение унифицирует целевой тип и логику приведения типа im2col для всех операций свёртки, позволяя таким функциям, как im2col_f16, принимать любой тип ядра.
- Унифицирован целевой тип dst_type im2col для всех операций свёртки в ggml
- Обновлён ggml/src/ggml.c для стандартизации логики приведения типов
- Исправлена функция im2col_f16 для приёма любого типа ядра
- Бинарные файлы macOS/iOS доступны для Apple Silicon, Intel и iOS XCFramework
- Сборки Linux предоставлены для Ubuntu x64, arm64, s390x, Vulkan, ROCm 7.2, OpenVINO и SYCL
- Включены бинарные файлы Android arm64 (CPU)
- Бинарные файлы Windows поддерживают CPU, OpenCL Adreno, CUDA 12/13, Vulkan, OpenVINO, SYCL и HIP
- Сборки openEuler для x86 и aarch64 с поддержкой ACL Graph доступны
- Также выпущен пакет бинарных файлов UI