LokalBotは、クラウドサービスやAPIキーを必要とせず、デバイス上だけで会議の録音・要約、入力補完、日次アクティビティの追跡を行う新しいmacOSアプリケーションです。本ツールはmacOS 15以降を搭載したApple Silicon Mac向けに設計されており、Neural Engine、MLX、Core Audioを活用してすべての処理がオフラインで完了するよう最適化されています。

  • 低遅延の入力補完にはllama.cppのlibllamaを、その他のタスクにはllama-serverを使用し、GGUFファイル、Ollama、OpenAI互換エンドポイントをサポートします。
  • 文字起こしはGranite Speech 4.1、Parakeet、Whisper、Qwen3-ASRをCoreML/MLX経由で処理し、Parakeetは実時間の約190倍の速度を実現します。
  • セマンティック検索には別個のllama-serverインスタンス上でQwen3-Embedding 0.6B GGUFモデルを利用し、ベクトルをSQLiteに保存してローカルでの即時取得を可能にしています。
  • pyannoteをFluidAudio経由で介することで、オプションとして話者分離（ダイアライゼーション）が可能です。
  • 初期のモデルダウンロード後にネットワーク呼び出しを排除することでプライバシーを優先し、オプションのスクリーンショットはAES-GCMで暗号化され、自動削除の設定が適用されます。

本アプリケーションは、すべてのデータをユーザーのマシン上に保持しながら厳格なプライバシーを維持しつつ、複数の個別ツールを単一のインターフェースに統合することを目指しています。