تقترح هندسة السياق التوليدي (GCA) معالجة نافذة سياق نموذج اللغة الكبير (LLM) كعمر محدود بدلاً من تخزين لا نهائي لحل "تدهور السياق" وتخفيف الانتباه في الأنظمة متعددة الوكلاء. ومن خلال فرض الموت الاصطناعي، يتم إنهاء الوكلاء قبل تدهور أدائهم، ونقل حالتهم إلى الأجيال الجديدة عبر مخزن ماركداون (Markdown) بملف مسطح.
تم نشر دليل مفتوح المصدر وثنائي اللغة (الإنجليزية/الإسبانية) يوضح التفاصيل الداخلية لعمل المحولات. يغطي المورد الرياضيات الدقيقة والآليات الكامنة وراء مفاهيم مثل انهيار الانتباه وضغط ذاكرة KV.
تقوم HP Inc. بتوسيع شراكتها الاستراتيجية مع OpenAI بعد نجاح التجارب الأولية، حيث تنشر الذكاء الاصطناعي عبر تجارب العملاء وإنتاجية الموظفين وتطوير البرمجيات. تستخدم الشركة منصة Frontier من OpenAI كنموذج تشغيلي موحد لحكم السياق والأذونات والتقييم أثناء انتقالها من حالات الاستخدام التجريبية إلى الإنتاج على نطاق المؤسسة.
أصدر مشروع llama.cpp الإصدار b9837، الذي يقدم علماً جديداً `--reasoning-preserve` لقالب الدردشة Jinja للحفاظ على رموز الاستدلال. يتضمن هذا التحديث أيضاً رسائل مساعدة مصححة ويوفر ثنائيات جاهزة لـ macOS وLinux وWindows وAndroid وopenEuler عبر مختلف الخلفيات العتادية.
يقدم المؤلف مشروع HoLo-ToLk، وهو بحث يبني نماذج تحويل الكلام إلى نص (STT) والنص إلى كلام (TTS) باستخدام أساس بايت HSL بمعاملات صفرية دون استخدام موحدات أو تضمينات مدخلات متعلمة. يوضح العمل أن بايتات HSL الخام يمكن أن تعمل كإشارة قابلة للتطبيق لمعالجة الصوت عند دمجها مع تعديلات معمارية محددة.
أصدر مشروع llama.cpp الإصدار b9835، والذي يتضمن إصلاحًا لوظيفة التوقف وتخطي الاستدلال في وضع النموذج الواحد. يعالج هذا التحديث مشكلات محددة داخل واجهة المستخدم لتحسين التحكم أثناء استدلال النموذج.
يطرح مستخدم في منتدى سؤالاً تخمينياً حول ما إذا كان تدريب الشبكات العصبية أو أنظمة الذكاء الاصطناعي على فهم الكود الثنائي سيعزز بشكل كبير قدراتها الإجمالية، لا سيما في مهام البرمجة.
يقترح مستخدم مفهومًا لموقع ويب حيث يتبادل الأفراد البيانات مقابل بيانات لتدريب نماذج الذكاء الاصطناعي، مما يلغي الحاجة إلى المعاملات النقدية. يعمل النظام على اقتصاد قائم على الرصيد حيث يبدأ المستخدمون بمبلغ محدد من الرصيد ويعلنون عن مكافآت لاحتياجات بيانات محددة.
أطلق مشروع llama.cpp الإصدار b9833، والذي يُدخل مُعرِّزًا مخصصًا لنموذج MiniCPM5 جنبًا إلى جنب مع إصلاحات متنوعة للأخطاء وإعادة هيكلة. يتضمن هذا التحديث دعمًا لتحليل استدعاء الأدوات، وتبسيط القواعد النحوية، وتصحيح سلوك واجهة برمجة التطبيقات Jinja لضمان التوافق مع معايير Jinja2.
أصدر مشروع llama.cpp الإصدار b9832، والذي يُدخل خيار سطر أوامر جديد `--dump-prog` لمحرك قوالب Jinja للمساعدة في عملية التصحيح. يتضمن هذا التحديث أيضاً ثنائيات جاهزة للاستخدام لأنظمة macOS وLinux وAndroid وWindows وopenEuler عبر معماريات مختلفة لوحدة المعالجة المركزية ووحدات معالجة الرسومات.
يُقدم إصدار llama.cpp b9831 دعمًا لـ DFlash v2، بما في ذلك انتباه النافذة المنزلقة حسب أنواع الطبقات، جنبًا إلى جنب مع مجموعة شاملة من الثنائيات المُعدة مسبقًا لأنظمة متعددة.
يُقدم إصدار llama.cpp b9830 القدرة على استخدام العلم --offline مع أمر تحميل llama، مما يسمح للسكريبتات بالتحقق من النماذج المخزنة مؤقتًا دون الحاجة إلى اتصال بالشبكة. كما يحل هذا التحديث ثغرة use-after-free كامنة في استدعاء on_done الخاص بمهمة URL حيث كان first_path يُلتقط بشكل غير صحيح بواسطة المرجع.
يسأل مستخدم في منتديات Hugging Face عما إذا كان من الممكن استعادة حسابه، مع تحديد اسم المستخدم "zhoucantd" على وجه التحديد. يشير المنشور إلى سلسلة مناقشة تشارك فيها طرفان بشأن هذا الطلب.
يقترح مفهوم جديد يُدعى UCTF (Universal Compressed Training Format) طبقة وسيطة لمعالجة التكرار الدلالي في تدريب نماذج LLM متعددة اللغات عن طريق ضغط لغات متنوعة إلى تنسيق رموز موحد وغير مرتبط بلغة معينة.
أبلغ مستخدم عن توقف ويدجت روبوت الدردشة الذكي الخاص به على موقعه الإلكتروني عن العمل بسبب خطأ في سياسة CORS بعد تحديث Gradio الأخير. يشير الخطأ إلى أن رأس 'Access-Control-Allow-Credentials' في الاستجابة فارغ، مما يتعارض مع وضع بيانات الاعتماد لطلب العميل.
تجادل هذه المقالة بأن النماذج اللغوية الكبيرة تستمد ذكاءها الظاهري من العلاقات الهندسية العميقة والحالات المخفية داخل اللغة نفسها، وليس من الحساب الميكانيكي المستقل أو التنبؤ البسيط بالرموز.
أطلق مشروع llama.cpp الإصدار b9829، والذي يتضمن تقليلًا لإخراج السجلات في الخادم والمكونات المشتركة ووحدات فك التشفير المتوقعة. كما يوحّد هذا التحديث اتفاقيات التسمية عن طريق استبدال CMN_ بـ COM_.
يبحث مستخدم على منتديات Hugging Face عن متعاونين لبناء مشروع تعلم آلي وتعلم عميق يركز على السودوكو. بدأ المؤلف في إنشاء قاعدة بيانات من الصفر ويهدف إلى تأسيس منظمة مستقلة لهذا الغرض.
يُقدم إصدار llama.cpp b9828 تحسينات كبيرة في OpenCL، وتحديداً بإعادة صياغة نوى Flash Attention لدقة f16 وf32. يتضمن هذا التحديث نوى prefill prepass جديدة ودعمًا لتنسيقات الكمّية q4_0 وq8_0.
يسأل مستخدم عن تجارب تتعلق بحذف الماندارين والروسية والعربية من نموذج لإنشاء نسخة تعتمد أساسًا على الأبجدية اللاتينية. الهدف هو تحرير مساحة لتدريب إضافي أو تقليم آمن في السياقات التي لا يوجد فيها تفعيل للإنجليزية.