أبلغ مستخدم عن تجارب أولية لتشغيل نماذج لغوية قائمة على الانتشار (dLLMs)، وتحديداً LLaDA2.1 و Sumi، على عتاد Apple Silicon باستخدام محرك مخصص مُبنى لأجهزة M1 و M2 Ultra.
- تم تأسيس معدل إخراج أساسي يبلغ 4.6–22.2 tok/s على M1 و 32.1–122.6 tok/s على M2 Ultra.
- تم اعتماد التكميم الموحد بـ 4 بت كخيار افتراضي، مما أدى إلى حجم نموذج يبلغ حوالي 9.57 GB مع معدل انقلاب ثقة منخفض.
- تم اختبار عدة تحسينات، بما في ذلك التخزين المؤقت المرن (مرفوض)، وكشف الأقنعة متعدد الكتل (مقبول مؤقتاً)، والتكهن التلقائي عبر S2D2 (مقبول).
- أدت تصويت TSCV إلى تحسين دقة GSM8K بمقدار 6–8 نقاط مئوية بدون أي حمل إضافي على وحدة المعالجة المركزية، بينما لم يُقدم Credit Decoding إلا مكاسب ضئيلة.
- كشف تحليل التوجيه أن أعداد الخبراء المميزين أقل من المتوقع، ويبقى التكميم ضرورياً لأن فك التكميم يبطئ الأداء.
يهدف المؤلف إلى بناء محرك انتشار وظيفي للأجهزة الشخصية واكتساب فهم أعمق لكيفية عمل هذه النماذج.