한 레딧 사용자는 로그를 읽어서 문제를 식별하고 수정하는 등 완전히 오프라인으로 시스템 관리 작업을 수행할 수 있는 로컬 대규모 언어 모델에 대한 추천을 요청하고 있습니다.

이 사용자는 현재 Claude와 Opencode를 사용하고 있지만, 일반적인 하드웨어에서 효율적으로 실행되는 솔루션이 필요합니다. 그들은 35B-a3b 및 27B 변형과 같은 Qwen 모델을 고려하고 있지만, 특정 설정에서는 이러한 모델이 너무 느리게 실행될 것이라고 지적합니다.