أصدر مشروع llama.cpp الإصدار b9835، والذي يتضمن إصلاحًا لوظيفة التوقف وتخطي الاستدلال في وضع النموذج الواحد. يعالج هذا التحديث مشكلات محددة داخل واجهة المستخدم لتحسين التحكم أثناء استدلال النموذج.
يطرح مستخدم في منتدى سؤالاً تخمينياً حول ما إذا كان تدريب الشبكات العصبية أو أنظمة الذكاء الاصطناعي على فهم الكود الثنائي سيعزز بشكل كبير قدراتها الإجمالية، لا سيما في مهام البرمجة.
يقترح مستخدم مفهومًا لموقع ويب حيث يتبادل الأفراد البيانات مقابل بيانات لتدريب نماذج الذكاء الاصطناعي، مما يلغي الحاجة إلى المعاملات النقدية. يعمل النظام على اقتصاد قائم على الرصيد حيث يبدأ المستخدمون بمبلغ محدد من الرصيد ويعلنون عن مكافآت لاحتياجات بيانات محددة.
أطلق مشروع llama.cpp الإصدار b9833، والذي يُدخل مُعرِّزًا مخصصًا لنموذج MiniCPM5 جنبًا إلى جنب مع إصلاحات متنوعة للأخطاء وإعادة هيكلة. يتضمن هذا التحديث دعمًا لتحليل استدعاء الأدوات، وتبسيط القواعد النحوية، وتصحيح سلوك واجهة برمجة التطبيقات Jinja لضمان التوافق مع معايير Jinja2.
أصدر مشروع llama.cpp الإصدار b9832، والذي يُدخل خيار سطر أوامر جديد `--dump-prog` لمحرك قوالب Jinja للمساعدة في عملية التصحيح. يتضمن هذا التحديث أيضاً ثنائيات جاهزة للاستخدام لأنظمة macOS وLinux وAndroid وWindows وopenEuler عبر معماريات مختلفة لوحدة المعالجة المركزية ووحدات معالجة الرسومات.
يُقدم إصدار llama.cpp b9831 دعمًا لـ DFlash v2، بما في ذلك انتباه النافذة المنزلقة حسب أنواع الطبقات، جنبًا إلى جنب مع مجموعة شاملة من الثنائيات المُعدة مسبقًا لأنظمة متعددة.
يُقدم إصدار llama.cpp b9830 القدرة على استخدام العلم --offline مع أمر تحميل llama، مما يسمح للسكريبتات بالتحقق من النماذج المخزنة مؤقتًا دون الحاجة إلى اتصال بالشبكة. كما يحل هذا التحديث ثغرة use-after-free كامنة في استدعاء on_done الخاص بمهمة URL حيث كان first_path يُلتقط بشكل غير صحيح بواسطة المرجع.
يسأل مستخدم في منتديات Hugging Face عما إذا كان من الممكن استعادة حسابه، مع تحديد اسم المستخدم "zhoucantd" على وجه التحديد. يشير المنشور إلى سلسلة مناقشة تشارك فيها طرفان بشأن هذا الطلب.
يقترح مفهوم جديد يُدعى UCTF (Universal Compressed Training Format) طبقة وسيطة لمعالجة التكرار الدلالي في تدريب نماذج LLM متعددة اللغات عن طريق ضغط لغات متنوعة إلى تنسيق رموز موحد وغير مرتبط بلغة معينة.
أبلغ مستخدم عن توقف ويدجت روبوت الدردشة الذكي الخاص به على موقعه الإلكتروني عن العمل بسبب خطأ في سياسة CORS بعد تحديث Gradio الأخير. يشير الخطأ إلى أن رأس 'Access-Control-Allow-Credentials' في الاستجابة فارغ، مما يتعارض مع وضع بيانات الاعتماد لطلب العميل.
تجادل هذه المقالة بأن النماذج اللغوية الكبيرة تستمد ذكاءها الظاهري من العلاقات الهندسية العميقة والحالات المخفية داخل اللغة نفسها، وليس من الحساب الميكانيكي المستقل أو التنبؤ البسيط بالرموز.
أطلق مشروع llama.cpp الإصدار b9829، والذي يتضمن تقليلًا لإخراج السجلات في الخادم والمكونات المشتركة ووحدات فك التشفير المتوقعة. كما يوحّد هذا التحديث اتفاقيات التسمية عن طريق استبدال CMN_ بـ COM_.
يبحث مستخدم على منتديات Hugging Face عن متعاونين لبناء مشروع تعلم آلي وتعلم عميق يركز على السودوكو. بدأ المؤلف في إنشاء قاعدة بيانات من الصفر ويهدف إلى تأسيس منظمة مستقلة لهذا الغرض.
يُقدم إصدار llama.cpp b9828 تحسينات كبيرة في OpenCL، وتحديداً بإعادة صياغة نوى Flash Attention لدقة f16 وf32. يتضمن هذا التحديث نوى prefill prepass جديدة ودعمًا لتنسيقات الكمّية q4_0 وq8_0.
يسأل مستخدم عن تجارب تتعلق بحذف الماندارين والروسية والعربية من نموذج لإنشاء نسخة تعتمد أساسًا على الأبجدية اللاتينية. الهدف هو تحرير مساحة لتدريب إضافي أو تقليم آمن في السياقات التي لا يوجد فيها تفعيل للإنجليزية.
يُطلق إصدار llama.cpp b9827 تحسينًا للأداء في CUDA من خلال إضافة مسار سريع لـ cudaMemcpy2DAsync إلى دالة ggml_cuda_cpy. يُسرّع هذا التغيير عمليات النسخ المتدرجة (strided) التي تكون فيها الأنواع والأشكال متطابقة، حيث لا تكون الموترات متصلة بالكامل ولكن كل صف متصل، مما يحل محل نوى نسخ العناصر القياسية الأبطأ.
أصدر مشروع llama.cpp الإصدار b9825، والذي يتضمن إصلاحًا لمعامل خطوة Vulkan عند التعامل مع المدخلات الصفرية. يوفر هذا التحديث ثنائيات جاهزة للبناء لأنظمة macOS وLinux وWindows وAndroid وopenEuler عبر مختلف الخلفيات العتقية.
أصدر مشروع llama.cpp الإصدار b9826، الذي يتضمن إصلاحاً لحالات اختبارات الوحدة الفاشلة المتعلقة بدالة norm في SYCL. يوفر هذا التحديث ثنائيات جاهزة وأطر عمل عبر منصات متعددة ومسرعات الأجهزة.
تجادل هذه المقالة بأن وكلاء الذكاء الاصطناعي غالبًا ما ينفذون إجراءات بناءً على تعليمات غير مكتملة من خلال تخمين المعلومات المفقودة، وهي مشكلة تُسمى "فشل تأكيد ما قبل التنفيذ". تقترح المقالة هيكلاً يُفرض أثناء التشغيل يتطلب التحقق من المعروف والمجهول قبل اتخاذ أي إجراء.
يُقدم تحديث الإصدار 1.15.1 من crewAI ميزات جديدة لتهيئة المشاريع ونشرها، جنبًا إلى جنب مع عدة إصلاحات للأخطاء وتحسينات في التوثيق.