一位用户使用 ik_llama.cpp 和 Unsloth 对 AMD EPYC 9374f 与 9135 进行了本地 LLM 推理基准测试，发现正确配置时新芯片提供了显著的解码速度提升。

  • 在使用 48 个线程时，9374f 实现了比 9135 更高的令牌生成速度（例如，在 N_KV=0 时为 12.19 t/s 对比 8.68 t/s）。
  • 使用 32 或 64 个线程导致性能比 9135 更差，表明线程数对于此工作负载至关重要。
  • 9374f 显示了稍慢的预填充速度（例如，256.90 t/s 对比 257.33 t/s），但在生成期间具有更高的吞吐量。

作者指出，虽然 9374f 更适合解码，但其游戏性能显著较差，这表明对于混合用途系统来说，升级可能不值得。