Проект llama.cpp обновил свой бэкенд ggml-hip, чтобы включить флаг компилятора -funsafe-math-optimizations. Это изменение специально ориентировано на пользователей, работающих на платформе AMD ROCm/HIP.
Автор отмечает, что в настоящее время в это обновление не включены бенчмарки, и код всё ещё собирается. Следовательно, изменения производительности ещё не были количественно оценены или сообщены.