L'auteur a publié brAIn, un framework d'agent open-source qui remplace les boucles de sondage traditionnelles par une architecture réactive fonctionnant entièrement sur des modèles locaux. Les nœuds opèrent en tant que daemons sur un bus pub/sub NATS intégré, invoquant le modèle uniquement lorsque des messages abonnés arrivent plutôt qu'à des intervalles fixes.
- Le système élimine l'utilisation de GPU inactif en évitant les requêtes constantes "y a-t-il quelque chose à faire ?", garantissant que les coûts sont nuls entre les messages.
- Un budget d'itération par réveil empêche les modèles confus de faire tourner le GPU dans des boucles infinies.
- Les utilisateurs peuvent répartir des charges de travail lourdes sur plusieurs machines, comme utiliser un MacBook pour la surveillance et un PC avec une RTX 4090 pour le traitement.
- Le framework inclut un tableau de bord en direct, des ponts pour Telegram, WhatsApp et Discord, et prend en charge la connexion à des CLI de codage externes comme Claude ou Codex.
Cette approche vise à résoudre l'inefficacité des frameworks d'agents standard en s'assurant que les ressources informatiques ne sont consommées que lorsque du travail réel est requis.