Lucebox se ha asociado con AMD para demostrar una configuración de hardware heterogénea para consumidores que supera a Nvidia DGX Spark en velocidad de inferencia. El sistema combina una GPU AMD Radeon AI PRO R9700 con un procesador Strix Halo para ejecutar el modelo completo DeepSeek V4 Flash de 284B.

  • La configuración logra una velocidad de decodificación de 51.1 tok/s en el modelo completo.
  • Ofrece una ventaja de rendimiento de 3.63x sobre una unidad única de Nvidia DGX Spark.
  • La R9700 maneja la ruta densa, expertos calientes, caché y modelo borrador, mientras que Strix Halo gestiona otros expertos en 128GB de memoria para computación simultánea.
  • La configuración cuesta $2,899 menos que comprar dos dispositivos Nvidia DGX Spark.

Los autores señalan que esta es una implementación experimental que ejecuta un modelo Q2 a 16k de contexto, con planes de implementar KVFlash para soportar contextos de 64k-128k.