Una configuración de dos unidades DGX Spark y un cable Connect-X7 proporciona aproximadamente 250 GB de memoria utilizable por $7,000 USD, lo que permite el uso de modelos grandes con cuantización de 4 bits. Esta configuración admite una reciente ola de modelos "miniboss" que caben dentro de esta restricción de memoria.

  • Tencent Hy3 (182 GB)
  • StepFun 3.7 Flash (129 GB)
  • MiniMax M2.7 (131 GB)
  • Deepseek V4 Flash (160 GB)
  • Xiaomi MiMo 2.5 (181 GB)

El autor sugiere probar estos modelos en OpenRouter por $7 antes de comprometerse con la inversión en hardware.