أصدر مشروع llama.cpp الإصدار b10293، والذي يتضمن دمج التكامل المستمر من AMD ROCم للهندسة المعمارية gfx1151 وحل مشاكل الدقة على وحدات معالجة الرسومات المتكاملة RDNA3.5.

  • يصلح test-recurrent-state-rollback على gfx1151 عن طريق السماح بمخازن إخراج المضيف لوحدة المعالجة الرسومية المتكاملة في تأكيدات التصحيح.
  • يستعيد دقة الاستدلال على RDNA3.5 عن طريق تمكين الذاكرة الموحدة للتغلب على مشاكل اتساق وحدة معالجة الرسومات مع الأوزان المحملة عبر mmap.
  • يعالج أخطاء التنفيذ غير المتزامن في مسار HIP باستخدام HIP_LAUNCH_BLOCKING=1 لتسلسل إطلاق النوى.
  • يتخطى اختبارات هندسة jamba واختبارات top-k الفرعية على الخلفية HIP بسبب العمليات غير المدعومة والإخراج غير الصحيح.

يتيح هذا التحديث الاختبار الموثوق والاستدلال لنماذج llama.cpp على عتاد AMD RDNA3.5 عبر ROCm.