Komponen yang diusulkan untuk kit cadangan AI offline lokal yang komprehensif

Seorang pengguna Reddit menguraikan daftar lengkap perangkat lunak dan model yang harus disimpan secara offline untuk mempertahankan akses ke kemampuan AI lokal jika terjadi pembatasan atau larangan internet yang luas. Kit yang diusulkan berfokus pada pelestarian alat penting, sistem operasi, dan bobot model untuk memastikan fungsionalitas tanpa ketergantungan eksternal.

• Safetensors 16-bit dari LLM kunci (misalnya, Qwen 27b, Gemma 31b) alih-alih format GGUF yang diuantisasi.
• Model difusi lokal untuk generasi gambar (Z Image Turbo/Flux Klein), generasi video (LTX2.3/Wan2.2), dan pengeditan (Qwen Image Edit).
• Kode sumber dan salinan mesin inferensi serta UI termasuk llama.cpp, vLLM, LMStudio, Ollama, Kobold, ComfyUI, dan SillyTavern.
• Salinan offline dari macOS, Windows 10/11, dan distribusi Linux seperti Ubuntu dan Pop!
• Rufus (termasuk versi legacy untuk Windows 7/XP) untuk pembaruan OS dan perangkat lunak virtualisasi seperti UTM dan VirtualBox.
• Alat Heretic/Grimoire dari P-E-W untuk de-sensor model dan penambahan potensial untuk model STT, TTS, audio, dan OCR.

Koleksi ini bertujuan untuk mengurangi risiko kehilangan akses ke sumber daya AI lokal jika pemerintah melarang unduhan atau torrenting, memastikan pengguna tetap memiliki alat komputasi kritis.