あるユーザーが、Proxmoxを実行しているIntel N100ミニPC上でGemma 4 E2Bとllama.cppサーバーを動作させるためのガイダンスを求めています。

  • ハードウェアはIntel N100ミニPCです。
  • ソフトウェアスタックにはProxmoxとllama.cppサーバーが含まれます。
  • モデルのターゲットは小規模なタスク向けのGemma 4 E2Bです。
  • ユーザーはCPUのみを使用するかiGPUを使用するか、またiGPUを使用する場合にどのバックエンドを対象とするべきかについてアドバイスを探しています。