llama.cpp добавляет поддержку архитектуры Tencent Hunyuan 3 (hy_v3)

Проект llama.cpp добавил поддержку архитектуры модели Tencent Hunyuan 3 (HYV3ForCausalLM), обозначаемой как hy_v3 в формате GGUF. Это обновление позволяет пользователям запускать этот конкретный стек декодера MoE внутри библиотеки.

• Добавлена полная поддержка архитектуры hy_v3, включая per-head Q/K RMSNorm и сигмоидный маршрутизатор с смещением выбора эксперта.
• Реализован всегда активный неограниченный общий эксперт и ведущие плотные блоки через first_k_dense_replace.
• Портировано из форка charlie12345 и адаптировано к текущим API основной ветки для совместимости с существующими GGUF файлами hy_v3.

Это изменение позволяет сообществу использовать модели Tencent Hunyuan 3 на различных платформах, включая macOS, Linux, Windows и Android, на разнообразных аппаратных бэкендах, таких как CUDA, ROCm и Vulkan.