Un utilisateur de Reddit dresse une liste complète de logiciels et de modèles à stocker hors ligne pour maintenir l'accès aux capacités d'IA locale en cas de restrictions ou d'interdictions généralisées d'internet. Le kit proposé se concentre sur la préservation des outils essentiels, des systèmes d'exploitation et des poids de modèles afin de garantir le fonctionnement sans dépendances externes.
- Poids safetensors 16-bit des LLM clés (par ex., Qwen 27b, Gemma 31b) plutôt que les formats GGUF quantisés.
- Modèles de diffusion locaux pour la génération d'images (Z Image Turbo/Flux Klein), la génération vidéo (LTX2.3/Wan2.2) et l'édition (Qwen Image Edit).
- Code source et copies des moteurs d'inférence et des interfaces utilisateur incluant llama.cpp, vLLM, LMStudio, Ollama, Kobold, ComfyUI et SillyTavern.
- Copies hors ligne de macOS, Windows 10/11 et des distributions Linux comme Ubuntu et Pop!
- Rufus (y compris les versions legacy pour Windows 7/XP) pour la gravure d'OS et les logiciels de virtualisation comme UTM et VirtualBox.
- Les outils Heretic/Grimoire de P-E-W pour le dé-censurage des modèles et ajouts potentiels pour les modèles STT, TTS, audio et OCR.
Cette collection vise à atténuer le risque de perdre l'accès aux ressources d'IA locale si les gouvernements interdisent les téléchargements ou le torrenting, garantissant que les utilisateurs conservent les outils informatiques critiques.