あるユーザーが ik_llama.cpp と Unsloth を使用してローカル LLM 推論において AMD EPYC 9374f と 9135 のベンチマークを行い、新しいチップは正しく構成されると大幅なデコーディング速度の向上をもたらすことを発見した。

  • 9374f は 48 スレッドを使用した場合、9135 よりも高いトークン生成速度（例：N_KV=0 で 12.19 t/s vs 8.68 t/s）を達成した。
  • 32 または 64 スレッドを使用すると、9135 よりもパフォーマンスが悪化し、スレッド数がこのワークロードにおいて重要であることを示している。
  • 9374f はわずかに遅いプリフィル速度（例：256.90 t/s vs 257.33 t/s）を示したが、生成中のスループットは優れていた。

著者は、9374f がデコーディングには優れているものの、ゲームでは大幅に劣っていることに注意しており、混合用途のシステムではアップグレードの価値はないと示唆している。