Un usuario de Reddit describe una lista exhaustiva de software y modelos para almacenar sin conexión a internet con el fin de mantener el acceso a las capacidades de IA local en caso de restricciones o prohibiciones generalizadas de internet. El kit propuesto se centra en preservar herramientas esenciales, sistemas operativos y pesos de modelos para garantizar la funcionalidad sin dependencias externas.
- Tensores seguros de 16 bits de los LLM clave (por ejemplo, Qwen 27b, Gemma 31b) en lugar de formatos GGUF cuantizados.
- Modelos de difusión locales para generación de imágenes (Z Image Turbo/Flux Klein), generación de video (LTX2.3/Wan2.2) y edición (Qwen Image Edit).
- Código fuente y copias de motores de inferencia e interfaces de usuario, incluidos llama.cpp, vLLM, LMStudio, Ollama, Kobold, ComfyUI y SillyTavern.
- Copias sin conexión de macOS, Windows 10/11 y distribuciones de Linux como Ubuntu y Pop!
- Rufus (incluidas versiones legacy para Windows 7/XP) para flashear sistemas operativos y software de virtualización como UTM y VirtualBox.
- Herramientas Heretic/Grimoire de P-E-W para la des-censura de modelos y posibles adiciones para modelos STT, TTS, audio y OCR.
Esta colección tiene como objetivo mitigar el riesgo de perder acceso a los recursos de IA local si los gobiernos prohíben las descargas o el torrenting, asegurando que los usuarios conserven herramientas computacionales críticas.