أطلق مطوّر أداة AI Hardware Fit أداة متصفّح مجانية ومفتوحة المصدر صُمِّمت لمساعدة المستخدمين على تحديد ما إذا كان نموذجًا محليًا يتناسب مع بطاقة GPU الخاصة بهم ومقارنة خيارات الأجهزة المناسبة. تتعامل الأداة مع تعقيد تجميع ملفات النماذج، والكمّنة (quantization)، وطول السياق، ودعم وقت التشغيل من مصادر متباينة.

  • يمكن للمستخدمين البدء ببطاقة GPU محددة لعرض النماذج المرشحة، والكمّنات المقترحة، ونطاقات ذاكرة VRAM والسرعة المقدَّرة، وأوامر Ollama أو llama.cpp.
  • وبدلاً من ذلك، يسمح البدء بنموذج معين للمستخدمين بمقارنة بطاقات GPU المناسبة بناءً على الميزانية، واستهلاك الطاقة، والعامل الشكلاني.
  • يتضمن الكتالوج حاليًا 151 إعدادًا مسبقًا لبطاقة GPU و332 نموذجًا للذكاء الاصطناعي، مع خيارات سريعة لـ Mac mini M4 (32GB) وM4 Pro (64GB).
  • يعرض الواجهة حدود جودة ذاكرة VRAM باستخدام نتائج الاختبارات المعيارية المنشورة، وحدود السعر والسرعة لبطاقات GPU المتوافقة.

تهدف الأداة إلى تقديم أدلة شفافة من خلال تسمية القياسات في ظروف محددة بدقة، والنطاقات المعايرة، والتقديرات المحسوبة بشكل منفصل، مما يساعد المستخدمين على اتخاذ قرارات تخطيطية مستنيرة لنشر الذكاء الاصطناعي محليًا.