يقدم إصدار llama.cpp b9864 تغييرًا في معالجة Server-Sent Events (SSE) للسيرفر، مما يسمح بضبط فاصل ping لكل طلب. يضمن هذا التحديث عدم قطع الاتصالات السليمة أثناء عمليات prefill البطيئة من خلال إرسال ping إلى التدفئات الصامتة كل ثانية واحدة وقطعها فقط بعد 3 ثوانٍ.

  • يعود الافتراضي العالمي لـ sse_ping_interval إلى 30، مع الحفاظ على سلوك عميل API بينما يرسل WebUI sse_ping_interval: 1 في جسم الطلب.
  • أصبح الحقل الآن field_num من نوع محدد بحدود ثابتة (-1, INT32_MAX) مرتبطة بـ task_params، مما يوفر التحقق المجاني من النوع والنطاق.
  • تتضمن بناءات macOS Apple Silicon (arm64)، وIntel (x64)، وiOS XCFramework، مع تعطيل KleidiAI.
  • تتوفر الثنائيات لنظام Linux لـ Ubuntu x64 وarm64 (CPU، Vulkan، ROCm 7.2، OpenVINO، SYCL FP32/FP16).
  • يدعم Windows CPU، وOpenCL Adreno، وCUDA 12/13، وVulkan، وOpenVINO، وSYCL، وHIP.
  • يتم أيضًا توفير بناءات Android arm64 (CPU) وopenEuler x86/aarch64 (ACL Graph).

يساعد هذا التحديث المستخدمين عن طريق منع انقطاع الاتصالات أثناء مراحل prefill البطيئة مع السماح لـ WebUI بالإعلان عن احتياجاته المحددة لجدول kick الرؤية.