Пользователь сообщает о запуске модели nvidia/Qwen3.6-27B-NVFP4 в качестве основного инструмента для задач агентного программирования на системе NVIDIA DGX Spark. Конфигурация использует квантование compressed-tensors и тип данных fp8 kv-cache для работы в пределах ограничений памяти оборудования. Ключевые настройки включают максимальную длину модели 131072, спекулятивное декодирование через MTP с 3 токенами и включенный автоматический выбор инструментов.
Пользователь запускает Qwen3.6-27B-NVFP4 на DGX Spark с 120GB VRAM
Переведено с English → Русский