Пользователь Reddit из сообщества r/LocalLLaMA спрашивает, обоснованы ли его опасения по поводу неэффективного использования оборудования при запуске модели Qwen3.6 27B, квантованной до Q8 с контекстным окном 262k с помощью llama.cpp.
Пользователь сообщает о наличии процессора AMD Ryzen 7950X, 128 ГБ оперативной памяти DDR5 и видеокарт RTX 4090 и RTX 3090 Ti. Он отмечает, что система не использует оперативную память DDR5, несмотря на невозможность запуска более крупных моделей, таких как модель с 122B параметров.
В посте запрашиваются рекомендации относительно лучших вариантов для текущей конфигурации оборудования.