Un usuario detalla su extenso proceso de actualización de hardware para ejecutar el modelo GLM 5.2 localmente, culminando en una configuración con cinco GPUs AMD Radeon Pro W6800 y una NVIDIA RTX 5090.

  • El autor comenzó con dos RTX 5090 pero encontró que la VRAM era insuficiente para tareas complejas.
  • Las actualizaciones incluyeron Threadripper Pro 9975WX, placa base WRX90 Sage SE y múltiples tarjetas AMD Radeon Pro W6800.
  • Los problemas térmicos obligaron a abandonar las configuraciones de GPU lado a lado en favor de diseños de gabinete abierto.
  • La configuración final 5x Pro 6000 + 5090 logró tasas de completitud de tareas del 98–99% con contexto abundante.
  • Las GPUs alcanzaron 70–75°C bajo carga completa, requiriendo una segunda fuente de alimentación y soluciones de refrigeración extensas.

El autor concluye que, aunque la configuración cumple con todas las necesidades funcionales para ejecutar GLM 5.2 y modelos Kimi, no es financieramente viable, estimando más de 10 años para recuperar la inversión.