Пользователь разработал собственную реализацию, позволяющую запускать модель DeepSeek V4.1 на графических процессорах NVIDIA A100 с производительностью, превышающей показатели официального API.
- Проект доступен в репозитории GitHub shi3z/deepseekv4.1-A100-custom.
- Это достижение примечательно тем, что аппаратное обеспечение A100 не поддерживает точность FP4 на уровне железа, которая обычно требуется для подобных оптимизаций.
- Пользовательский код обеспечивает более высокую скорость вывода по сравнению со стандартным официальным конечной точкой API.