Обновление sycl расширяет поддержку переставленного обработки экспертиз в MoE MUL_MAT_ID для Q4_K, Q5_K и Q6_K. Не поддерживаемые случаи перестановки 3D теперь переключаются, вместо того чтобы прерывать работу.
sycl: поддержка переставленных Q4_K/Q5_K/Q6_K MoE MUL_MAT_ID
Переведено с English → Русский