LokalBot — это новое приложение для macOS, которое выполняет запись и суммаризацию встреч, автозаполнение текста и отслеживание ежедневной активности исключительно на устройстве без необходимости в облачных сервисах или API-ключах. Инструмент разработан специально для Mac на базе Apple Silicon с macOS 15 или новее, используя Neural Engine, MLX и Core Audio, чтобы гарантировать выполнение всех процессов офлайн.
- Приложение использует llama.cpp с libllama для низкого времени отклика при вводе текста и llama-server для других задач, поддерживая файлы GGUF, Ollama или совместимые с OpenAI конечные точки.
- Транскрипцию обрабатывают Granite Speech 4.1, Parakeet, Whisper или Qwen3-ASR через CoreML/MLX, при этом Parakeet достигает скорости примерно в 190 раз быстрее реального времени.
- Семантический поиск использует модель GGUF Qwen3-Embedding 0.6B на отдельном экземпляре llama-server, сохраняя векторы в SQLite для мгновенного локального поиска.
- Опциональная диаризация доступна через pyannote с помощью FluidAudio для различения разных говорящих.
- Приоритет отдается конфиденциальности путем устранения сетевых вызовов после первоначальной загрузки модели, а необязательные скриншоты защищены с помощью AES-GCM и настроены на автоматическое удаление.
Приложение стремится объединить несколько отдельных инструментов в едином интерфейсе, сохраняя строгую конфиденциальность за счет хранения всех данных на машине пользователя.