Lucebox ने Nvidia DGX Spark की तुलना में अनुमानन गति में श्रेष्ठता प्रदर्शित करने के लिए AMD के साथ साझेदारी की है। यह सिस्टम पूरे 284B DeepSeek V4 Flash मॉडल को चलाने के लिए एक AMD Radeon AI PRO R9700 GPU और Strix Halo प्रोसेसर को जोड़ता है।
- कॉन्फ़िगरेशन पूरे मॉडल पर 51.1 tok/s का डिकोड गति प्राप्त करता है।
- यह एक अकेले Nvidia DGX Spark यूनिट की तुलना में 3.63x प्रदर्शन लाभ प्रदान करता है।
- R9700 घनत्व मार्ग, हॉट एक्सपर्ट्स, कैश और ड्राफ्ट मॉडल को संभालता है, जबकि Strix Halo समानांतर गणना के लिए 128GB मेमोरी में अन्य एक्सपर्ट्स का प्रबंधन करता है।
- इस कॉन्फ़िगरेशन की लागत दो Nvidia DGX Spark उपकरण खरीदने से $2,899 कम है।
लेखकों ने नोट किया है कि यह एक प्रायोगिक कार्यान्वयन है जो 16k संदर्भ के साथ Q2 मॉडल चला रहा है, और 64k-128k संदर्भों का समर्थन करने के लिए KVFlash लागू करने की योजना है।