La actualización de sycl amplía el soporte para el manejo de tensores de expertos reordenados en MoE MUL_MAT_ID a Q4_K, Q5_K y Q6_K. Los casos de reordenamiento 3D no soportados ahora hacen fallback en lugar de abortar.
sycl: soporte para MoE MUL_MAT_ID con Q4_K/Q5_K/Q6_K reordenados
Traducido del English → Español