llama.cpp प्रोजेक्ट ने b10691 बिल्ड जारी की, जो Metal बैकएंड में एक महत्वपूर्ण स्थिरता समस्या को दूर करती है। अपडेट विशेष रूप से F16 स्रोत गुणा ऑपरेशन के दौरान होने वाले null-pipeline क्रैश को हल करता है।

  • F16 src1 mul_mat और mul_mat_id ऑपरेशन के लिए null-pipeline क्रैश ठीक किया।
  • F16 kernels से रहित mul_mat आकारों के लिए fail-closed व्यवहार लागू किया।
  • encoder_set_pipeline में nil pipelines के लिए abort तर्क जोड़ा।
  • कोड स्थिरता सुधारने के लिए mul_mat mm डिस्पैच को supports_op के साथ साझा किया।

यह रिलीज CPU, GPU और CUDA, ROCm, Vulkan और OpenVINO सहित विशेष हार्डवेयर बैकएंड्स के लिए macOS, iOS, Linux, Windows, Android और openEuler के लिए बाइनरी प्रदान करती है।