يعالج إصدار llama.cpp b10171 خطأً حرجاً في نوى صور Adreno KQ/KQV تسبّب في ظهور مخرجات عشوائية أثناء دفعات التسلسلات المتعددة. نشأت المشكلة لأن هذه النوى تتجاهل البُعد 3، مما يؤدي إلى قراءات غير صحيحة عند استخدام ذاكرة التخزين المؤقت KV الموحدة مع قنوات متعددة.

  • توجيه موترات ne03/ne13 > 1 إلى المسار العام الذي يتعامل بشكل صحيح مع البُعد 3.
  • احترام view_offs عند إنشاء مخازن فرعية لمنع القراءات الخاطئة الصامتة.
  • تصحيح درجات الارتباك (perplexity) على أجهزة Adreno 740 و840، مما يقلل PPL من ~1940 إلى ~15.6 لـ Llama-3.2-1B-Instruct Q4_0.
  • يتضمن ثنائيات لأنظمة macOS وiOS وLinux وAndroid وWindows وopenEuler عبر وحدات المعالجة المركزية ووحدات معالجة الرسومات والخلفيات المتخصصة.

يضمن هذا الإصلاح نتائج استنتاج صحيحة على أجهزة Adreno حيث يكون Flash Attention معطلاً أو غير متاح، مما يمنع تدهور الأداء في تكوينات الخوادم متعددة الفتحات.