github llama.cpp · الآن · inference

llama.cpp b11138 يحلل +/- الأحادي قبل المتغيرات

مُترجم من English → العربية

أصدر مشروع llama.cpp الإصدار b11138، الذي يحدث محلل قوالب Jinja للتعامل مع مشغلي الجمع والطرح الأحاديين قبل المتغيرات.

يُصدر المحلل اللفظي (lexer) الآن رموز unary_operator للتعبيرات مثل -n أو +n، مما يسمح بتحليلها بأولوية الضرب.
يتيح هذا التغيير التقييم الصحيح للشرائح مثل items[:-n] و GigaChat indent[:-indent_factor].
تم تقييد +/- الأحادي لربط المشغل الأساسي أو اللاحق فقط، مما يضمن أن -n|abs يُقيم كـ (-n)|abs بدلاً من -(n|abs).
يتضمن الإصدار ملفات ثنائية لأنظمة macOS (Apple Silicon و Intel)، iOS، Linux (CPU، Vulkan، CUDA 12/13، ROCm، OpenVINO، SYCL، Snapdragon)، Android، Windows، و openEuler.

يضمن هذا التحديث أن منطق القوالب الذي يتضمن الفهرسة السالبة أو المتغيرات الموقعة يعمل بشكل صحيح داخل تنفيذ Jinja في llama.cpp.

الأهمية 1/3 الموثوقية 1/3 llama.cpp Inference efficiency

قراءة الأصل

مقالات ذات صلة

github llama.cpp · الآن مباشر

llama.cpp b11140 يُمكّن sparse-fa لـ dsv4 prefill على CUDA

أصدر مشروع llama.cpp الإصدار b11140، الذي يتضمن تحسينًا لـ CUDA يمكّن استخدام sparse-fa لـ dsv4 prefill. يعالج هذا التحديث مشكلات الأداء في عملية مسح قناع flash attention من خلال نمذجة النوى للسماح بفتح الحلقات عند وقت الترجمة.

github llama.cpp · منذ 2 ساعة · 12 مشاهدة

يضيف llama.cpp b11136 دعم video_url الخاص بـ OpenAI إلى llama-server

أصدر مشروع llama.cpp الإصدار b11136، الذي يحدث llama-server ليقبل نوع المحتوى "video_url" القياسي من OpenAI لإدخالات الفيديو. سابقاً، كان الخادم يقبل فقط النوع غير القياسي "input_video" ويرفض عناوين URI للبيانات، مما تسبب في مشاكل توافق مع العملاء المتوافقين مع OpenAI.

github llama.cpp · منذ 3 ساعة · 11 مشاهدة

llama.cpp b11132 يضيف دعم العمود الفقري للمسودة Gemma 4 DSpark

أصدر مشروع llama.cpp الإصدار b11132، مقدمًا دعمًا للعمود الفقري لمسودة Gemma 4 DSpark. يتيح هذا التحديث تحويل GGUF وقدرات وقت التشغيل لمسودات Gemma 4 ذات الانتباه الكامل وSWA، بما في ذلك أوزان المخرجات المرتبطة وبيانات العمود الفقري المنطقية.

github llama.cpp · منذ 8 ساعة · 12 مشاهدة

llama.cpp b11122 يوسع دمج MMVQ GLU ويضيف دمجات SYCL جديدة

أطلق مشروع llama.cpp الإصدار b11122، والذي يتضمن تحديثات كبيرة للخلفية SYCL. يوسع هذا الإصدار دمج MMVQ GLU لدعم أنواع الكم المختلطة ويقدم دمجات جديدة لعمليات rms_norm+scale و ssm_conv+silu.

github llama.cpp · منذ 9 ساعة · 12 مشاهدة

يخفي llama.cpp b11120 الرموز الداخلية لـ Vulkan لإصلاح تدمير الحالة

أصدر مشروع llama.cpp الإصدار b11120، الذي يعالج خطأً حرجاً في الخلفية البرمجية لـ Vulkan من خلال إخفاء الرموز الداخلية. يمنع هذا التغيير مشاكل تدمير حالة dlopen المزدوج التي حدثت عندما كانت الرموز الداخلية مُصدَّرة.