Un usuario comparte su experiencia resolviendo problemas de versionado del kit de herramientas CUDA en Ubuntu para habilitar las capacidades de cómputo para GPUs más nuevas como la arquitectura Blackwell y la RTX 5060 Ti. La publicación destaca que el repositorio apt predeterminado proporciona versiones de CUDA desactualizadas, lo que requiere la instalación manual del paquete Debian desde el sitio web de NVIDIA.
- El sistema se actualizó de CUDA 12.0 a la versión 13.3 para admitir hardware más nuevo.
- Los usuarios deben especificar la ruta correcta al reconstruir llama.cpp después de instalar el nuevo kit de herramientas.
- Se recomiendan controladores de código abierto sobre los propietarios para tareas de cómputo en lugar de juegos.
- Se pueden usar múltiples GPUs de diferentes generaciones juntas, aunque pueden ejecutarse a capacidades de cómputo más bajas si no se configuran correctamente.
Instalar la última versión del kit de herramientas CUDA desde el sitio oficial de NVIDIA permite a los usuarios utilizar todo el poder de cómputo en tarjetas gráficas modernas con herramientas locales de inferencia de LLM.