एक उपयोगकर्ता Graphene OS के भीतर एक नेटिव Debian टर्मिनल के माध्यम से Android पर Hermes इंटरफ़ेस चलाने का प्रदर्शन करता है, इनफरेंस के लिए एक रिमोट बैकएंड का उपयोग करते हुए।
- सेटअप Thunderbolt 5 के माध्यम से एक मोबाइल RTX 5070 Ti को एक eGPU के साथ जोड़ता है जिसमें RTX 3090 है, लगभग 34GB VRAM प्रदान करता है।
- इनफरेंस Llama.cpp और Qwen 3.6 35b मॉडल द्वारा संभाला जाता है, जो प्रॉम्प्ट प्रोसेसिंग के लिए 2500 tps और MTP के साथ जनरेशन के लिए 80-150 tps प्राप्त करता है।
- कॉन्फ़िगरेशन मोबाइल डिवाइस पर स्थानीय वॉइस डिक्टेशन और एक स्लीक GUI की अनुमति देता है, जबकि कंप्यूटेशन के लिए बाहरी हार्डवेयर पर निर्भर करता है।