llama.cpp b10045 добавляет сохранение/восстановление текстовых слотов с помощью mtmd

Проект llama.cpp выпустил версию b10045, внедряющую новую функцию в компонент сервера, которая позволяет сохранять и восстанавливать слоты, используя только текстовые форматы через mtmd.

Это обновление доступно на нескольких платформах и конфигурациях оборудования, включая macOS (Apple Silicon и Intel), iOS, Linux (Ubuntu x64, arm64, s390x с CPU, Vulkan, ROCm 7.2, OpenVINO и SYCL бэкендами), Android (arm64 CPU), Windows (CPU, OpenCL Adreno, CUDA 12/13, Vulkan, OpenVINO, SYCL, HIP) и openEuler.

Релиз предоставляет бинарные файлы для основного сервера и UI, позволяя пользователям разворачивать llama.cpp на широком спектре архитектур и операционных систем.