ggml-cpu は Power10 Q8/Q4 MMA 行列乗算で K tails をサポートするようになり、K が kc で割り切れるという要件が撤廃されました。これにより、より多くのワークロードが MMA カーネルを使用可能になり、mnpack へのフォールバックが減少します。
ggml-cpu が Power10 MMA Q8/Q4 の K tails サポートを追加
翻訳元 English → 日本語
ggml-cpu は Power10 Q8/Q4 MMA 行列乗算で K tails をサポートするようになり、K が kc で割り切れるという要件が撤廃されました。これにより、より多くのワークロードが MMA カーネルを使用可能になり、mnpack へのフォールバックが減少します。