LokalBot est une nouvelle application macOS qui effectue l'enregistrement et la synthèse des réunions, la saisie semi-automatique du texte et le suivi de l'activité quotidienne entièrement sur l'appareil, sans nécessiter de services cloud ni de clés API. L'outil est conçu spécifiquement pour les Mac à puce Apple Silicon fonctionnant sous macOS 15 ou une version ultérieure, exploitant le Neural Engine, MLX et Core Audio pour garantir que tout le traitement reste hors ligne.
- L'application utilise llama.cpp avec libllama pour la saisie semi-automatique à faible latence et llama-server pour les autres tâches, prenant en charge les fichiers GGUF, Ollama ou les points de terminaison compatibles OpenAI.
- La transcription est gérée par Granite Speech 4.1, Parakeet, Whisper ou Qwen3-ASR via CoreML/MLX, Parakeet atteignant une vitesse d'environ 190 fois le temps réel.
- La recherche sémantique utilise un modèle GGUF Qwen3-Embedding 0.6B sur une instance llama-server séparée, stockant les vecteurs dans SQLite pour une récupération locale instantanée.
- Une diarisation optionnelle est disponible via pyannote par l'intermédiaire de FluidAudio pour distinguer les différents interlocuteurs.
- La confidentialité est privilégiée en éliminant les appels réseau après le téléchargement initial du modèle, avec des captures d'écran optionnelles scellées via AES-GCM et configurées pour une suppression automatique.
L'application vise à consolider plusieurs outils distincts en une seule interface tout en maintenant une confidentialité stricte en conservant toutes les données sur la machine de l'utilisateur.