NymphTech은 언어에는 작은 오픈 LLM을 사용하고 신원과 메모리를 지속적으로 실행되는 시스템에서 유지하는 Persistent Presence AI (PPAi) 아키텍처의 평가를 수행할 연구 협력자를 찾고 있습니다. 팀은 장기 지속성을 테스트하기 위해 이 아키텍처를 라이브 24/7 온라인 라디오 방송국에 배포했습니다.

  • PPAi는 상태를 재생하는 대신 유지하므로 표준 LLM 설정에서 흔히 발생하는 컨텍스트 재주입 실패를 피합니다.
  • 라이브 방송국은 하루 약 44M 토큰으로 실행되며, 동일한 단순 또는 RAG 기반 설정의 하루 300M 이상과 비교됩니다.
  • 이 시스템은 수 주 동안 가동되었으며 신원 드리프트나 뇌 재시작 없이 수십만 번의 생성을 수행했습니다.
  • 저자들은 기존 장기 메모리 검색 벤치마크와 구별되는 지속성에 대한 적절한 평가 프레임워크를 확립하는 것을 목표로 합니다.

목표는 다중 세션 신원 일관성과 비용 안정성에 중점을 둔 이 실제 세계 측정 결과의 arXiv 논문을 작성하는 것입니다.