يسعى مستخدم للحصول على نصيحة حول اختيار وحدة معالجة رسومات لتشغيل نماذج لغوية كبيرة للبرمجة محلياً، بوزن ثلاثة خيارات عتادية محددة. يركز المقارنة على RTX 4090 معدل بسعة ذاكرة وصول عشوائي مرئية (VRAM) تبلغ 48GB، وبطاقتي Radeon AI Pro R9700 مزدوجة، وبطاقتي Intel Arc Pro B70 مزدوجة.
- RTX 4090 معدل بـ 48GB: يوفر بنية AD102 كاملة، وعرض نطاق يبلغ ~1TB/s، ودعم CUDA بسعر 3,500 دولار، لكنه يحمل مخاطر تتعلق بالبرمجيات الثابتة من طرف ثالث، والموثوقية، وعدم وجود ضمان.
- بطاقتان Radeon AI Pro R9700 بـ 32GB: تتميز ببنية RDNA4، وعرض نطاق يبلغ 640 GB/s، وPCIe 5.0، وضمان رسمي بسعر ~1,300 دولار، على الرغم من ملاحظة أن توافق ROCm أقل نضجاً مقارنة بـ CUDA.
- بطاقتان Intel Arc Pro B70 بـ 32GB: بسعر ~1,080 دولار مع بنية Battlemage، وعرض نطاق يبلغ 608 GB/s، و367 TOPS INT8، لكنها تفتقر إلى دعم FP4 وتواجه تساؤلات حول نضج برامج التشغيل لـ oneAPI/OpenVINO.
يهدف المستخدم إلى تحقيق سرعة استنتاج وضبط دقيق خفيف بمعدل 30-40 رمز في الثانية (tps)، مع ملاحظة أن إعداد DGX Spark الحالي محدود بـ 20 tps.