O LokalBot é um novo aplicativo para macOS que realiza gravação e resumo de reuniões, preenchimento automático de digitação e rastreamento de atividades diárias inteiramente no dispositivo, sem exigir serviços em nuvem ou chaves de API. A ferramenta foi projetada especificamente para Macs com Apple Silicon executando macOS 15 ou posterior, aproveitando o Neural Engine, MLX e Core Audio para garantir que todo o processamento permaneça offline.
- O aplicativo usa llama.cpp com libllama para cotyping de baixa latência e llama-server para outras tarefas, suportando arquivos GGUF, Ollama ou endpoints compatíveis com OpenAI.
- A transcrição é realizada por Granite Speech 4.1, Parakeet, Whisper ou Qwen3-ASR via CoreML/MLX, com o Parakeet alcançando aproximadamente 190x a velocidade em tempo real.
- A busca semântica utiliza um modelo GGUF Qwen3-Embedding 0.6B em uma instância separada do llama-server, armazenando vetores no SQLite para recuperação local instantânea.
- A diarização opcional está disponível via pyannote através do FluidAudio para distinguir entre diferentes falantes.
- A privacidade é priorizada eliminando chamadas de rede após o download inicial do modelo, com capturas de tela opcionais seladas via AES-GCM e configuradas para autoexclusão.
O aplicativo visa consolidar várias ferramentas separadas em uma única interface, mantendo a privacidade estrita ao manter todos os dados na máquina do usuário.