llama.cpp प्रोजेक्ट ने बिल्ड b10182 जारी किया है, जिसमें टोकन दमन के प्रबंधन के तरीके में एक संरचनात्मक परिवर्तन शामिल है। प्राथमिक संशोधन `suppress_tokens` हैंडलिंग तर्क को `common/sampling` मॉड्यूल में स्थानांतरित करने से संबंधित है।

  • `has_logit_bias` फीचर को कोडबेस से हटा दिया गया है।
  • रिलीज पिछले कार्यान्वयन से जुड़े सुरक्षा मुद्दों को संबोधित करती है।
  • macOS (Apple Silicon और Intel), iOS, Linux (CPU, Vulkan, ROCm, OpenVINO, SYCL), Android, Windows (CPU, CUDA 12/13, Vulkan, OpenCL, ROCm, OpenVINO, SYCL, HIP), और openEuler के लिए बाइनरी प्रदान की गई हैं।

यह अपडेट सैंपलिंग तर्क को एकीकृत करता है और टोकन दमन तंत्र के भीतर विशिष्ट सुरक्षा चिंताओं को हल करता है।