一位用户询问如何在运行 Proxmox 的 Intel N100 迷你电脑上使用 Gemma 4 E2B 运行 llama.cpp 服务器。

  • 硬件是 Intel N100 迷你电脑。
  • 软件栈包括 Proxmox 和 llama.cpp 服务器。
  • 目标模型是用于小任务的 Gemma 4 E2B。
  • 用户寻求建议,是使用纯 CPU 还是 iGPU,如果使用 iGPU 应该针对哪个后端。