LokalBot एक नया macOS एप्लिकेशन है जो मीटिंग रिकॉर्डिंग और सारांश, टाइपिंग ऑटोकंप्लीट, और दैनिक गतिविधि ट्रैकिंग को पूरी तरह से डिवाइस पर करता है, बिना किसी क्लाउड सर्विसेज या API कीज़ की आवश्यकता के। यह टूल विशेष रूप से macOS 15 या बाद वाले संस्करण पर चलने वाले Apple Silicon Macs के लिए डिज़ाइन किया गया है, Neural Engine, MLX, और Core Audio का उपयोग करके सुनिश्चित करता है कि सभी प्रोसेसिंग ऑफ़लाइन रहे।
- ऐप कम लेटेंसी टाइपिंग के लिए llama.cpp with libllama का उपयोग करता है और अन्य कार्यों के लिए llama-server का उपयोग करता है, GGUF फ़ाइलों, Ollama, या OpenAI-कम्पैटिबल एंडपॉइंट्स को सपोर्ट करता है।
- ट्रांसक्रिप्शन CoreML/MLX के माध्यम से Granite Speech 4.1, Parakeet, Whisper, या Qwen3-ASR द्वारा संभाला जाता है, जिसमें Parakeet लगभग 190x रियलटाइम स्पीड प्राप्त करता है।
- सेमांटिक सर्च एक अलग llama-server इंस्टेंस पर Qwen3-Embedding 0.6B GGUF मॉडल का उपयोग करता है, तात्कालिक लोकल रिट्रीवल के लिए वेक्टर्स को SQLite में स्टोर करता है।
- ऑप्शनल डायरिज़ेशन अलग-अलग बोलने वालों की पहचान करने के लिए FluidAudio के माध्यम से pyannote के माध्यम से उपलब्ध है।
- प्राइवेसी को प्राथमिकता दी गई है, प्रारंभिक मॉडल डाउनलोड के बाद नेटवर्क कॉल्स को खत्म करके, ऑप्शनल स्क्रीनशॉट AES-GCM द्वारा सील किए जाते हैं और सेट किया जाता है कि वे स्वचालित रूप से डिलीट हो जाएं।
एप्लिकेशन का उद्देश्य एकल इंटरफ़ेस में कई अलग-अलग टूल्स को एकीकृत करना है, जबकि उपयोगकर्ता की मशीन पर सभी डेटा रखकर कठोर प्राइवेसी बनाए रखना है।