야andex는 후보 생성과 랭킹을 단일 시스템으로 통합하는 생성형 AI 모델 Sona를 도입하여 전통적인 다단계 추천 캐스케이드를 대체했습니다. 이 회사는 스마트 스피커에서 7일간의 라이브 프로덕션 실험을 통해 이 아키텍처를 테스트했습니다.

  • 15개 이상의 후보 생성기, 프리랭킹 및 랭킹 단계를 단일 서빙된 트랜스포머로 대체했습니다.
  • 로그된 이벤트 필드와 학습된 Semantic ID만 사용하여 수동으로 설계된 기능을 제거했습니다.
  • 학습 중 증류를 위해 동결된 0.6B 파라미터 Teacher Ranker를 사용하며, 서빙 시에는 제거됩니다.
  • 온라인 A/B 테스트에서 활성 사용자 +4.53%, 총 청취 시간 +6.30%, 좋아요 +11.42%를 달성했습니다.
  • 활성 사용자 상승률에서 이전 Argus 시스템보다 2.35배 더 높은 성능을 보였습니다.

이 모델은 단일 생성형 추천기가 복잡한 캐스케이드를 효과적으로 대체하면서도 사용자 참여 지표를 개선할 수 있음을 보여줍니다.