레딧 사용자는 광범위한 인터넷 제한이나 금지 상황에서 로컬 AI 기능에 대한 접근성을 유지하기 위해 오프라인으로 저장해야 할 소프트웨어와 모델의 포괄적인 목록을 제시합니다. 제안된 키트는 외부 의존성 없이 기능을 보장하기 위해 필수 도구, 운영 체제 및 모델 가중치를 보존하는 데 중점을 둡니다.

  • 양자화된 GGUF 형식 대신 주요 LLM(예: Qwen 27b, Gemma 31b)의 16-bit safetensors.
  • 이미지 생성(Z Image Turbo/Flux Klein), 비디오 생성(LTX2.3/Wan2.2), 편집(Qwen Image Edit)을 위한 로컬 디퓨전 모델.
  • llama.cpp, vLLM, LMStudio, Ollama, Kobold, ComfyUI, SillyTavern을 포함한 추론 엔진과 UI의 소스 코드 및 사본.
  • Ubuntu와 Pop! 같은 Linux 배포판을 포함한 macOS, Windows 10/11, Windows의 오프라인 사본.
  • OS 플래싱용 Rufus(Windows 7/XP를 위한 레거시 버전 포함) 및 UTM, VirtualBox 같은 가상화 소프트웨어.
  • 모델 비검열을 위한 P-E-W의 Heretic/Grimoire 도구와 STT, TTS, 오디오, OCR 모델에 대한 잠재적 추가 항목.

이 컬렉션은 정부가 다운로드나 트레ント를 금지할 경우 로컬 AI 리소스에 대한 접근성을 잃는 위험을 완화하고 사용자가 중요한 컴퓨팅 도구를 유지하도록 보장하는 것을 목표로 합니다.