Проект llama.cpp выпустил версию b10589, которая вводит поддержку CUDA POOL_1D через pull request #27573. Это обновление также включает исправление соответствия editorconfig путем добавления отсутствующей завершающей новой строки.
Релиз предоставляет бинарные файлы для macOS (Apple Silicon и Intel), iOS, Linux (Ubuntu x64, arm64, s390x), Windows (x64 и arm64) и Android. Поддерживаемые бэкенды включают CPU, CUDA 12/13, Vulkan, ROCm 7.14, OpenVINO, SYCL и OpenCL Adreno.
Это обновление позволяет пользователям запускать llama.cpp на широком спектре аппаратных архитектур и операционных систем с новой возможностью пулинга.