あるユーザーがIntel Arrow Lake iGPUでLlama.cppのベンチマークを実施し、SYCLがGPUバックエンドの中で最良のパフォーマンスを提供している一方、Vulkanはほぼ無効であることを発見した。

  • Vulkanのサポートは壊れているか極めて遅いとされ、Qwen3.6モデルで0.5 tok/s、Gemma-4で4 tok/sしか達成できない。
  • SYCLはQwen3.6 35Bモデルを8-12 tok/sで実行し、prefill速度は約20 tok/sだが、フリーズなどの安定性問題が発生する。
  • CPU単独の実行が最も一貫したオプションであり、同じハードウェアで生成に14 tok/s、prefillに30-40 tok/sを提供する。

これらの結果は、SYCLがiGPUを利用できる可能性を示唆しているものの、現時点ではCPU推論に対してわずかな利点しか提供せず、信頼性の問題を抱えていることを示している。