llama.cpp परियोजना ने संस्करण b11205 जारी किया है, जिसने अपने CUDA बैकएंड में एक विशिष्ट अपडट पेश किया है। इस रिलीज़ ने SSM स्कैन कार्यान्वयन के भीतर Nemotron 3 Puzzle की स्थिति आकार 96 के लिए समर्थन जोड़ा है।
- अपडट CUDA हार्डवेयर पर 96 के puzzle स्थिति आकार वाले Nemotron 3 मॉडल को संभालने सक्षम बनाता है।
- macOS (Apple Silicon और Intel), Linux (CPU, Vulkan, CUDA, ROCm, OpenVINO, SYCL, Snapdragon), Windows (CPU, CUDA, Vulkan, OpenVINO, SYCL, ROCm), Android, और iOS के लिए बाइनरी प्रदान की गई हैं।
- रिलीज़ में प्लेटफ़ॉर्म-विशिष्ट एक्जीक्यूटेबल्स के साथ मानक UI बाइनरी शामिल हैं।
यह अपडट उपयोगकर्ताओं को llama.cpp का उपयोग करके संगत NVIDIA GPUs पर विशिष्ट स्थिति आकार वाले Nemotron 3 मॉडल चलाने की अनुमति देता है।