github llama.cpp · منذ 1 ساعة · inference

إصلاح llama.cpp b10311 لتكرار تدفق نص Qwen3-TTS

مُترجم من English → العربية

أصدر مشروع llama.cpp الإصدار b10311، والذي يتضمن إصلاحًا لخط أنابيب Qwen3-TTS. يحل التحديث مشكلة حيث كان النموذج يقرأ العبارة المدخلة مرتين أثناء التوليد.

يصلح خطأ في تراكب التعبئة المسبقة غير المتدفق الذي تسبب في إعادة تغذية تدفق النص أثناء توليد Qwen3-TTS.
يصحح الحالة المخفية للنص النهائي لتتقلص إلى صف tts_pad واحد، متطابقًا مع تخطيط التعبئة المسبقة.
يوفر ملفات ثنائية لأنظمة macOS (Apple Silicon و Intel)، و iOS، و Linux (CPU، Vulkan، ROCm، OpenVINO، SYCL)، و Android، و Windows (CPU، CUDA 12/13، Vulkan، OpenCL، ROCm، SYCL)، و openEuler.

الأهمية 1/3 الموثوقية 1/3 llama.cpp Inference efficiency

قراءة الأصل

يضيف llama.cpp b10313 مجدول LRU إلى الخادم

أصدر مشروع llama.cpp الإصدار b10313، الذي يقدم مجدول الاستخدام الأقل مؤخراً (LRU) لمكون الخادم الخاص به. يتضمن هذا التحديث التعامل مع تجميع الطلبات وإصلاحات لحالات البث.

github llama.cpp · منذ 1 ساعة مباشر

إصدار llama.cpp b10312 مع إصلاح للخادم للنماذج المزدحمة

أطلق مشروع llama.cpp الإصدار b10312، والذي يتضمن تحديثاً محدداً لمكون الخادم. يعالج التغيير الرئيسي مشكلة كانت تؤدي إلى طرد النماذج المزدحمة من الموزع.

github llama.cpp · منذ 4 ساعة

إصلاح llama.cpp b10307 لتحليل NVFP4 في SYCL

أصدر مشروع llama.cpp الإصدار b10307، والذي يتضمن إصلاحًا لكود GPU الخاص بـ SYCL لتحليل عوامل القياس UE4M3 المستخدمة في الكمّية NVFP4 بشكل صحيح.

github llama.cpp · منذ 5 ساعة

يضيف llama.cpp b10305 دعم SYCL لعمليات DSv4

أصدر مشروع llama.cpp الإصدار b10305، الذي يقدم دعمًا لعمليات DSv4 المحددة داخل الخلفية SYCL. يتضمن هذا التحديث تنفيذ المشغلات LIGHTNING_INDEXER و DSV4_HC_COMB و DSV4_HC_POST و DSV4_HC_PRE.

github llama.cpp · منذ 5 ساعة

يضيف llama.cpp b10306 مسارًا مسطحًا لـ SYCL GLU ويوحّد النوى

تُقدّم إصدار llama.cpp b10306 تحسينات في الأداء للخلفية SYCL، مستهدفةً على وجه التحديد عمليات وحدة الخطية المقننة (GLU). يضيف التحديث مسارًا سريعًا متواصلًا لعمليات GLU المدمجة ويوحّد النوى المختلفة سابقًا لمشاركة مُطلق مشترك.