أصدر مشروع llama.cpp الإصدار b10431، الذي يقدم دعمًا لتراجع الحالة المتكررة (RS) في عملية ggml_ssm_scan. يتيح هذا التغيير تراجع RS لنماذج Nemotron على خلفيات CPU و CUDA.

  • التنفيذ الأولي لتراجع الحالة المتكررة لـ Nemotron على CPU و CUDA.
  • دعم K > 1 في ssm_scan عبر جميع الخلفيات.
  • استبدال اكتشاف CUDA الثابت بواجهة برمجة تطبيقات fused_op في وقت التشغيل للتحقق من دعم العمليات.
  • العودة إلى CPU عندما لا يدعم الخلفية تراجع SSM.
  • إضافة test-backend-ops لكل من CPU و CUDA للتحقق من الوظائف.

يتيح هذا التحديث للمستخدمين تشغيل نماذج Nemotron بقدرات تراجع الحالة المتكررة على تكوينات الأجهزة المدعومة.