一位Reddit用户概述了一份全面的软件和模型清单,用于在广泛互联网限制或禁令的情况下存储离线数据,以维持本地AI功能的访问。该建议套件侧重于保存关键工具、操作系统和模型权重,以确保在没有外部依赖的情况下保持功能。
- 关键LLM的16位safetensors格式(例如Qwen 27b, Gemma 31b),而非量化GGUF格式。
- 用于图像生成(Z Image Turbo/Flux Klein)、视频生成(LTX2.3/Wan2.2)和编辑(Qwen Image Edit)的本地扩散模型。
- 推理引擎和UI的源代码及副本,包括llama.cpp、vLLM、LMStudio、Ollama、Kobold、ComfyUI和SillyTavern。
- macOS、Windows 10/11以及Ubuntu和Pop!等Linux发行版的离线副本。
- Rufus(包括用于Windows 7/XP的旧版本)用于操作系统刷写,以及UTM和VirtualBox等虚拟化软件。
- P-E-W的Heretic/Grimoire工具用于模型去审查,并可能添加STT、TTS、音频和OCR模型的补充内容。
该集合旨在降低因政府禁止下载或种子分享而导致本地AI资源访问丢失的风险,确保用户保留关键的计算工具。