एक रेडिट उपयोगकर्ता व्यापक इंटरनेट प्रतिबंधों या बैन की स्थिति में स्थानीय एआई क्षमताओं तक पहुँच बनाए रखने के लिए ऑफ़लाइन संग्रहीत करने हेतु सॉफ़्टवेयर और मॉडल की एक समग्र सूची प्रस्तुत करते हैं। प्रस्तावित किट बाहरी निर्भरता के बिना कार्यक्षमता सुनिश्चित करने के लिए आवश्यक टूल, ऑपरेटिंग सिस्टम और मॉडल वेट्स को सुरक्षित रखने पर केंद्रित है।
- क्वांटाइज़्ड GGUF फॉर्मेट के बजाय प्रमुख LLMs (जैसे Qwen 27b, Gemma 31b) के 16-bit safetensors।
- छवि जनरेशन (Z Image Turbo/Flux Klein), वीडियो जनरेशन (LTX2.3/Wan2.2) और संपादन (Qwen Image Edit) के लिए स्थानीय डिफ्यूजन मॉडल।
- llama.cpp, vLLM, LMStudio, Ollama, Kobold, ComfyUI, और SillyTavern सहित इन्फरेंस इंजनों और UIs का स्रोत कोड और प्रतियाँ।
- macOS, Windows 10/11, और Ubuntu और Pop! जैसे Linux वितरणों की ऑफ़लाइन प्रतियाँ।
- OS फ्लैशिंग और UTM और VirtualBox जैसे वर्चुअलाइजेशन सॉफ़्टवेयर के लिए Rufus (Windows 7/XP के लिए पुराने संस्करण सहित)।
- मॉडल डी-सेंसरिंग हेतु P-E-W के Heretic/Grimoire टूल्स और STT, TTS, ऑडियो, और OCR मॉडलों के लिए संभावित जोड़।
यह संग्रह सरकारों द्वारा डाउनलोड या टोरेंटिंग पर बैन लगाने की स्थिति में स्थानीय एआई संसाधनों तक पहुँच खोने के जोखिम को कम करने का लक्ष्य रखता है, यह सुनिश्चित करते हुए कि उपयोगकर्त critical कंप्यूटेशनल टूल्स बनाए रखें।