llama.cpp प्रोजेक्ट ने बिल्ड b10655 जारी किया, जिसने Vulkan बैकएंड के भीतर LIGHTNING_INDEXER ऑपरेशन के लिए समर्थन पेश किया है ताकि Deepseek V4 ऑपरेशन्स सक्षम हों।

  • Vulkan बैकएंड में LIGHTNING_INDEXer ऑप जोड़ा गया।
  • 128-लेन डॉट-प्रोडक्ट रिडक्शन को शेयरड-मेमोरी ट्री से subgroupAdd में स्थानांतरित करने के लिए lightning_indexer.comp और ggml-vulkan.cpp को अपडेट किया गया।
  • सीमा जाँच छोड़ने और पिछले FA_K_ONLY संशोधनों को वापस करने जैसे क्लीनअप बदलाव शामिल किए गए।
  • इंटरलीव्ड K/V बफ़र ऑर्डरिंग को पुनर्स्थापित किया गया और FA_K_ONLY तर्क हटा दिया गया।

यह अपडेट Vulkan उपयोगकर्ताओं को नई LIGHTNING_INDEXER कार्यान्वयन का उपयोग करके Deepseek V4 ऑपरेशन्स चलाने की क्षमता प्रदान करता है।