한 사용자가 Intel Arrow Lake iGPU에서 Llama.cpp를 벤치마킹한 결과, SYCL이 GPU 백엔드 중 가장 우수한 성능을 제공하는 반면 Vulkan은 거의 무용지물임을 발견했습니다.

  • Vulkan 지원은 깨져 있거나 극도로 느려 Qwen3.6 모델에서 0.5 tok/s, Gemma-4에서 4 tok/s만 달성합니다.
  • SYCL은 Qwen3.6 35B 모델을 8-12 tok/s로 실행하며 prefill 속도는 약 20 tok/s이지만, 프리징 등 안정성 문제가 발생합니다.
  • CPU 전용 실행이 가장 일관된 옵션으로, 동일한 하드웨어에서 생성 시 14 tok/s, prefill 시 30-40 tok/s를 제공합니다.

이 결과는 SYCL이 iGPU를 활용할 수 있지만 현재 CPU 추론 대비 미미한 이점만 제공하며 신뢰성 문제를 겪고 있음을 시사합니다.