Проект llama.cpp выпустил версию b10010, которая вводит новые параметры командной строки для настройки обмена ресурсами между разными источниками (CORS) во встроенном HTTP-сервере.

  • Сервер теперь поддерживает флаги `--cors-*` для управления поведением CORS.
  • Для настроек источника доступно специальное значение "localhost".
  • Были добавлены и обновлены тесты, охватывающие новую функциональность.
  • Бинарные файлы предоставлены для macOS (Apple Silicon и Intel), iOS, Linux (Ubuntu x64, arm64, s390x с CPU, Vulkan, ROCm 7.2, OpenVINO, SYCL), Android (arm64), Windows (CPU, OpenCL Adreno, CUDA 12/13, Vulkan, OpenVINO, SYCL, HIP) и openEuler.

Это обновление позволяет пользователям более гибко управлять запросами между разными источниками при запуске сервера llama.cpp локально.