La webui de llama-server no responde a las indicaciones, mostrando únicamente 'procesando...' a pesar de que el modelo se carga correctamente. La interfaz CLI funciona normalmente y los puntos finales de salud del servidor responden correctamente. El problema surgió después de recompilar llama.cpp con soporte CUDA.
la webui de llama-server no responde tras recompilar
Traducido del English → Español