Яндекс представил Sona, генеративную ИИ-модель, которая объединяет генерацию кандидатов и их ранжирование в единую систему, заменяя традиционные многоэтапные каскады рекомендаций. Компания протестировала эту архитектуру в семидневном эксперименте на реальных данных для своих умных колонок.
- Заменены более 15 генераторов кандидатов, этапы предварительного и окончательного ранжирования одним обслуживаемым трансформером.
- Устранена необходимость в ручном конструировании признаков за счёт использования только записанных полей событий и выученных семантических идентификаторов (Semantic IDs).
- Для дистилляции во время обучения используется замороженный Teacher Ranker с 0.6B параметров, который удаляется на этапе обслуживания.
- В онлайн A/B-тестах достигнуто увеличение числа активных пользователей на +4.53%, общего времени прослушивания на +6.30% и лайков на +11.42%.
- Превзошла предыдущую систему Argus, показав рост числа активных пользователей в 2.35 раза.
Модель демонстрирует, что единый генеративный рекомендатель способен эффективно заменять сложные каскады, одновременно улучшая метрики вовлечённости пользователей.