Проект llama.cpp выпустил сборку b9971, которая включает рефакторинг функциональности `server_stream`. Это обновление решает проблему безопасности потоков путем удаления небезопасного вызова `rd.stop()` и перемещения `server_res_spipe`. В релизе также обновлена документация для разработчиков, чтобы отразить улучшенный API.
- Рефакторинг `server_stream` и удаление `spipe` из `server_http_res`
- Удален небезопасный в потоках вызов `rd.stop()` и перемещен `server_res_spipe`
- Обновлены документы для разработчиков для улучшенного API серверного потока
- Отключены сборки macOS Apple Silicon (arm64, с включенным KleidiAI)
- Предоставлены бинарные файлы для macOS, Linux, Android, Windows и openEuler для CPU, GPU и ускорителей ИИ
Релиз обеспечивает безопасность потоков в компоненте серверного потока при сохранении широкой поддержки платформ.