ओपन-सोर्स प्रोजेक्ट mlx-smolvla Apple Silicon पर MLX का उपयोग करके SmolVLA चेकपॉइंट्स को निष्पादित करने के लिए एक पायथन रनटाइम प्रदान करता है, जिसमें इनफरेंस, LeRobot प्रोटोकॉल सर्वर और LoRA ट्रेनिंग के लिए एक पूर्वावलोकन शामिल है। Apple M5 Pro पर बेंचमार्क दिखाते हैं कि MLX पथ 50-एक्शन चंक्स के लिए 110.75 ms का मीडियन लेटेंसी प्राप्त करता है, जो PyTorch-MPS से 1.85× तेज़ है।
- रनटाइम Torch या Transformers निर्भरताओं के बिना नेटिव MLX है।
- कठोर CPU संगतता लैन्स PyTorch के साथ निश्चित तुलना सुनिश्चित करते हैं, जबकि Metal सांख्यिकीय जाँच का उपयोग करता है।
- प्रोजेक्ट में LeRobot के एसीनक्रोनस-इनफरेंस gRPC प्रोटोकॉल को लागू करने वाला एक पॉलिसी सर्वर शामिल है।
- LoRA ट्रेनिंग वर्तमान में सीमित पैरिटी वैलिडेशन के साथ एक शोध पूर्वावलोकन है।
लेखक ने नोट किया कि कच्चे बेस चेकपॉइंट्स में प्रभावी भौतिक-एक्शन इंटरफेस की कमी है और मोशन क्लाइंट्स के लिए मेल खाने वाले रोबोट सांख्यिकी के साथ समीक्षित चेकपॉइंट्स की आवश्यकता है।