Проект llama.cpp выпустил версию b10067, которая включает исправление для инструмента `llama-quantize`, позволяющее корректно обрабатывать модели DeepSeek-V4. Обновление предотвращает попытку конвертера преобразовать тензор `ffn_gate_tid2eid`, таблицу индексов токенов к экспертам типа i32, в тип float.
- Исключает таблицу маршрутизации `ffn_gate_tid2eid` из квантования во избежание ошибок преобразования.
- Добавляет тензор в список исключений по имени наряду с `ffn_gate_inp.weight`.
- Исправляет проблему #25754, где квантование ранее завершалось ошибкой для моделей DeepSeek-V4.
Это изменение позволяет пользователям успешно квантовать модели DeepSeek-V4 без ошибок, связанных с преобразованием типов integer в float.