أصدر مشروع llama.cpp الإصدار b10043، مقدمًا دعمًا لأجهزة CUDA الافتراضية. يعطل هذا التحديث مسار NCCL عند استخدام الأجهزة الافتراضية ويتضمن إعادة هيكلة للكود بالإضافة إلى وصفات للأجهزة الافتراضية مُعلَّمة.

  • تمت إضافة دعم لأجهزة CUDA الافتراضية إلى الخلفية (backend).
  • يتم تعطيل مسار اتصال NCCL عند استخدام الأجهزة الافتراضية.
  • أصبحت الأجهزة الافتراضية مُعلَّمة في الأوصاف، وتمت إضافة مهام CI للخادم GPUx2.
  • تم توفير ملفات قابلة للتنفيذ لأنظمة macOS (Apple Silicon وIntel)، Linux (CPU، Vulkan، ROCm، OpenVINO، SYCL)، Android، Windows (CPU، OpenCL، CUDA 12/13، Vulkan، OpenVINO، SYCL، HIP)، وopenEuler.

يتيح هذا الإصدار للمستخدمين تشغيل llama.cpp على الأنظمة التي تستخدم أجهزة CUDA الافتراضية مع الحفاظ على التوافق عبر مجموعة واسعة من بنية الأجهزة وأنظمة التشغيل.