Проект llama.cpp выпустил версию b9972, которая позволяет включить потоковую передачу для функции `exec_shell_command` в компоненте сервера. Это обновление включает реализацию инициализации потока и тестирование, а также соответствующие обновления документации.
- Сервер: позволяет потоковую передачу для exec_shell_command (PR #25526)
- macOS/iOS: Бинарные файлы предоставлены для Apple Silicon (arm64), Intel (x64) и iOS XCFramework; поддержка KleidiAI отключена.
- Linux: Доступны сборки для Ubuntu x64, arm64 и s390x для CPU, Vulkan, ROCm 7.2, OpenVINO, SYCL FP32 и SYCL FP16 бэкендов.
- Android: Выпущен бинарный файл для процессора Arm64.
- Windows: Бинарные файлы поддерживают CPU, OpenCL Adreno, CUDA 12/13, Vulkan, OpenVINO, SYCL и HIP на архитектурах x64 и arm64.
- openEuler: Доступны сборки для x86 и aarch64 с поддержкой ACL Graph; стандартные сборки отключены.
- UI: Выпущен стандартный бинарный файл пользовательского интерфейса.
Это обновление предоставляет обновленные бинарные файлы для различных платформ и аппаратных ускорителей, а также добавляет возможности потоковой передачи при выполнении команд оболочки.