Проект llama.cpp выпустил версию b10604, которая добавляет поддержку формата модели Deepseek 4 (DSV4) наряду с новыми предварительно скомпилированными бинарными файлами для macOS и iOS.
- Добавлена поддержка тензоров sm для Deepseek 4 (DSV4) с более крупной гранулярностью для разделения голов и исправления для dspark.
- Включено сохранение моделей в формате DSV4 и возможность возврата dflash на определенных устройствах.
- Включена функциональность отложенного allreduce для общих экспертов.
- Предоставлены бинарные файлы для Apple Silicon на macOS, XCFrameworks для iOS, а также обновленные бинарные файлы для Linux, Windows, Android и openEuler для CPU, GPU и специализированных бэкендов.
Это обновление позволяет пользователям запускать модели Deepseek 4 с помощью llama.cpp и предоставляет обновленные нативные сборки для устройств Apple.