sycl の更新により、MoE MUL_MAT_ID における再順序付けされたエキスパートテンサーの処理が Q4_K、Q5_K、および Q6_K に拡張されました。サポートされていない 3D 再順序付けケースは、中止するのではなくフォールバックに切り替わるようになりました。
sycl: 再順序付けされた Q4_K/Q5_K/Q6_K MoE MUL_MAT_ID のサポート
翻訳元 English → 日本語
sycl の更新により、MoE MUL_MAT_ID における再順序付けされたエキスパートテンサーの処理が Q4_K、Q5_K、および Q6_K に拡張されました。サポートされていない 3D 再順序付けケースは、中止するのではなくフォールバックに切り替わるようになりました。