Lucebox объединила усилия с AMD для демонстрации гетерогенной конфигурации потребительского оборудования, которая превосходит Nvidia DGX Spark по скорости вывода. Система сочетает GPU AMD Radeon AI PRO R9700 и процессор Strix Halo для запуска полной модели DeepSeek V4 Flash на 284B.

  • Конфигурация достигает скорости декодирования 51,1 tok/s на полной модели.
  • Она обеспечивает преимущество в производительности в 3,63 раза по сравнению с одним устройством Nvidia DGX Spark.
  • R9700 обрабатывает плотный путь, горячие эксперты, кэш и модель черновика, в то время как Strix Halo управляет другими экспертами в памяти объемом 128 ГБ для одновременных вычислений.
  • Стоимость этой конфигурации на $2 899 меньше, чем покупка двух устройств Nvidia DGX Spark.

Авторы отмечают, что это экспериментальная реализация, работающая с моделью Q2 при контексте 16k, с планами внедрить KVFlash для поддержки контекстов 64k-128k.