एक उपयोगकर्ता ने एक कस्टम कार्यान्वयन विकसित किया है जो DeepSeek V4.1 मॉडल को NVIDIA A100 GPUs पर आधिकारिक API से बेहतर प्रदर्शन के साथ चलाने की अनुमति देता है।
- यह परियोजना GitHub रिपॉजिटरी shi3z/deepseekv4.1-A100-custom के माध्यम से उपलब्ध है।
- यह उपलब्धि उल्लेखनीय है क्योंकि A100 हार्डवेयर मूल रूप से FP4 परिशुद्धता का समर्थन नहीं करता है, जो कि ऐसे अनुकूलनों के लिए आमतौर पर आवश्यक होता है।
- मानक आधिकारिक API एंडपॉइंट की तुलना में कस्टम कोड तेज़ इनफरेंस गति सक्षम बनाता है।