저자는 전통적인 폴링 루프를 대체하고 완전히 로컬 모델에서 실행되는 반응형 아키텍처를 갖춘 오픈소스 에이전트 프레임워크인 brAIn을 출시했습니다. 노드는 내장 NATS pub/sub 버스 위에서 데몬으로 작동하며, 고정된 간격이 아닌 구독된 메시지가 도착했을 때만 모델을 호출합니다.
- 시스템은 끊임없이 "할 일이 있는가?"라고 묻는 것을 피하여 유휴 GPU 사용을 제거하고 메시지 간 비용을 0으로 유지합니다.
- 각 웨이크마다 반복 예산을 설정하여 혼란스러운 모델이 GPU를 무한 루프에서 돌리는 것을 방지합니다.
- 사용자는 MacBook으로 모니터링을 수행하고 RTX 4090이 탑재된 PC로 처리를 수행하는 등 부하가 큰 워크로드를 여러 기계에 분산할 수 있습니다.
- 프레임워크에는 라이브 대시보드, Telegram, WhatsApp, Discord용 브리지가 포함되어 있으며 Claude나 Codex와 같은 외부 코딩 CLI와의 연결을 지원합니다.
이 접근 방식은 실제 작업이 필요할 때만 계산 리소스가 소비되도록 함으로써 표준 에이전트 프레임워크의 비효율성을 해결하는 것을 목표로 합니다.