Проект llama.cpp выпустил сборку b11081, которая включает несколько обновлений инфраструктуры тестирования `test-llama-archs`. Ключевые изменения включают возможность настройки стандартного отклонения данных тензоров, расширение примеров использования и добавление поддержки регулярных выражений для архитектур.

  • Инструмент `test-llama-archs` теперь позволяет настраивать стандартное отклонение данных тензоров и завершается ошибкой при неизвестных аргументах с выводом справки по использованию.
  • Тесты отката рекуррентного состояния сообщают о NMSE для расхождений логитов и используют NMSE для проверок отката.
  • Синтетические тестовые данные обнуляют проекцию оценки индексатора DSA, а недействительные тесты отключены.
  • Выпуск предоставляет бинарные файлы для macOS (Apple Silicon/Intel), iOS, Linux (CPU/Vulkan/CUDA/ROCm/OpenVINO/SYCL), Android, Windows (CPU/OpenCL/CUDA/Vulkan/OpenVINO/SYCL/ROCm) и openEuler.

Это обновление обеспечивает более широкую поддержку оборудования на нескольких платформах, одновременно повышая надёжность и настраиваемость внутреннего тестирования архитектуры.