한 사용자가 Proxmox를 실행 중인 Intel N100 미니 PC에서 Gemma 4 E2B와 함께 llama.cpp 서버를 실행하는 방법에 대한 지침을 요청했습니다.

  • 하드웨어는 Intel N100 미니 PC입니다.
  • 소프트웨어 스택에는 Proxmox와 llama.cpp 서버가 포함됩니다.
  • 모델 대상은 작은 작업용 Gemma 4 E2B입니다.
  • 사용자는 CPU만 사용할지 iGPU를 사용할지, 그리고 iGPU를 사용할 경우 어떤 백엔드를 타겟팅해야 하는지에 대한 조언을 구하고 있습니다.