著者は brAIn をリリースしました。これは従来のポーリングループを置き換え、ローカルモデルのみで実行されるリアクティブアーキテクチャを持つオープンソースのエージェントフレームワークです。ノードは組み込みの NATS pub/sub バス上でデーモンとして動作し、固定された間隔ではなく購読されたメッセージが届いたときにのみモデルを呼び出します。
- システムは一定の間隔で「何かやることはあるか？」と問いかけることを避け、アイドル状態のGPU使用を排除し、メッセージ間のコストをゼロに保ちます。
- 各ウェイクごとのイテレーション予算により、混乱したモデルがGPUを無限ループで回すのを防ぎます。
- ユーザーは MacBook で監視を行い、RTX 4090 を搭載した PC で処理を行うなど、重いワークロードを複数のマシンに分散できます。
- フレームワークにはライブダッシュボード、Telegram、WhatsApp、Discord 用のブリッジが含まれており、Claude や Codex などの外部コーディングCLIへの接続をサポートしています。
このアプローチは、実際の作業が必要になった時のみ計算リソースが消費されるようにすることで、標準的なエージェントフレームワークの非効率性を解決することを目指しています。