一名用户展示了在 Graphene OS 内的原生 Debian 终端中通过 Android 运行 Hermes 界面，并使用远程后端进行推理。

  • 该设置通过 Thunderbolt 5 将移动 RTX 5070 Ti 与包含 RTX 3090 的 eGPU 配对，提供约 34GB VRAM。
  • 推理由 Llama.cpp 和 Qwen 3.6 35b 模型处理，提示处理达到 2500 tps，使用 MTP 时生成速度为 80-150 tps。
  • 该配置允许在移动设备上实现本地语音听写和简洁的 GUI，同时依赖外部硬件进行计算。