एक रेडिट उपयोगकर्ता ऐसे स्थानीय बड़े भाषा मॉडल की सिफारिशें मांग रहे हैं जो पूरी तरह से ऑफ़लाइन हों और लॉग पढ़कर समस्याओं की पहचान और समाधान जैसे सिस्टम प्रशासन कार्यों को कर सकें।
वर्तमान में उपयोगकर्ता Claude और Opencode का उपयोग कर रहे हैं, लेकिन उन्हें एक ऐसा समाधान चाहिए जो औसत हार्डवेयर पर कुशलता से चले। वे 35B-a3b और 27B जैसे Qwen मॉडल पर विचार कर रहे हैं, लेकिन बताते हैं कि उनकी विशिष्ट सेटअप पर ये बहुत धीमे चलेंगे।