Проект llama.cpp выпустил версию b9923, включающую значительный рефакторинг компонента server-stream для решения проблем с буфером воспроизведения Server-Sent Events (SSE). Это обновление внедряет паттерн pimpl и группирует публичные функции потока под префиксом `server_stream_` для улучшения организации кода.
- Состояние сессии и менеджера теперь защищено мьютексом, предикаты condvar устанавливаются под блокировкой, при этом отмена остается атомарной для опроса без блокировок.
- Комментарии были сокращены, чтобы сосредоточиться на обосновании конкурентности, времени жизни и порядка выполнения, убрав те, что просто дублируют код.
- Трассировки потока перенесены в уровень отладки для снижения уровня шума по умолчанию при диагностике запуска.
- Перечисление `stream_read_status` перемещено в файл .cpp, чтобы оставаться за границей pimpl.
Релиз включает бинарные файлы для macOS (Apple Silicon и Intel), iOS, Linux (CPU, Vulkan, ROCm, OpenVINO, SYCL), Android, Windows (CPU, CUDA 12/13, Vulkan, OpenCL, OpenVINO, SYCL, HIP) и openEuler.