أصدر المؤلف AiiStream Q3.6، وهي تقنية مفتوحة المصدر تتيح تشغيل نموذج Qwen3.6-35B-A3B على أجهزة Apple Silicon بذاكرة وصول عشوائي تتراوح بين 8 إلى 16 جيجابايت فقط. من خلال الحفاظ على الخبراء الموجهين على وحدة تخزين الحالة الصلبة (SSD) واستخدام تنبؤات التحميل المبكر، تقلل الطريقة استخدام ذاكرة MLX إلى حوالي 1.7 جيجابايت مع الحفاظ على مخرجات مطابقة تماماً على مستوى البايت مقارنةً بالتنفيذ القياسي لـ mlx_lm.

المقاييس الرئيسية للأداء على MacBook Air M5 بسعة 16 جيجابايت:

  • 15.0 توكن/ثانية في الاختبارات المعيارية الخاضعة للرقابة، وهو أسرع بنسبة 72.6% من البث المباشر من SSD.
  • حوالي 11.8 توكن/ثانية مع تشغيل تطبيقات أخرى.
  • وقت وصول إلى أول توكن يبلغ حوالي 2.3 ثانية للمطالبات القصيرة.

صُممت التقنية لتعمل أيضاً على أجهزة ماك بسعة 8 جيجابايت، على الرغم من أن أرقام الأداء لهذا التكوين لا تزال تقديرات مبنية على الإصدار الحالي.