Пользователь сообщает об успешном запуске тернарно-квантованной модели Qwen3.6 27B на двух GPU NVIDIA RTX 3090. Конфигурация обеспечивает пропускную способность 60 токенов в секунду со стабильной функцией вызова инструментов.
- Каждому GPU выделено 100k слотов KV cache.
- Общее потребление VRAM составляет примерно 21GB на обеих картах.
- Пользователь отмечает, что качество вывода выглядит хорошим, хотя тесты по программированию не проводились.