Un usuario de Reddit demuestra cómo ensamblar un equipo local de inferencia de IA por menos de $2500 utilizando componentes asequibles de segunda mano, apuntando específicamente a la capacidad de ejecutar modelos de lenguaje grandes como GLM-5.2 sin hardware empresarial costoso.
La configuración propuesta cuesta aproximadamente $1920 en componentes principales: una placa madre y CPU Epcy ($460), dos GPUs NVIDIA Tesla P40 de 24GB usadas ($460 en total) y 512GB de RAM DDR4 ($1000). Un presupuesto adicional de $350-$580 cubre periféricos necesarios como fuente de poder, almacenamiento y refrigeración, elevando el total a aproximadamente $2500. Esta configuración soporta variantes Q2/Q3/Q4 de GLM-5.2 vía cmoe y llama.cpp, así como modelos como Kimi-K2.6 y DeepSeek.
Aunque las velocidades de inferencia serán lentas, haciendo impráctico el uso en tiempo real de agentes, la configuración permite a los usuarios realizar tareas de planificación y depuración seria localmente, evitando la dependencia de proveedores de API comerciales.