Uma configuração com duas unidades DGX Spark e um cabo Connect-X7 fornece aproximadamente 250 GB de memória utilizável por $7.000 USD, permitindo o uso de modelos grandes com quantização de 4 bits. Esta configuração suporta uma recente onda de modelos "miniboss" que cabem dentro dessa restrição de memória.

  • Tencent Hy3 (182 GB)
  • StepFun 3.7 Flash (129 GB)
  • MiniMax M2.7 (131 GB)
  • Deepseek V4 Flash (160 GB)
  • Xiaomi MiMo 2.5 (181 GB)

O autor sugere testar esses modelos no OpenRouter por $7 antes de se comprometer com o investimento em hardware.