Yandex推出了Sona，这是一个将候选项生成和排序整合到单一系统中的生成式AI模型，从而取代了传统的多阶段推荐级联。该公司在其智能音箱上进行了为期七天的实时生产实验来测试这一架构。

  • 用一个服务的Transformer取代了15个以上的候选项生成器、预排序和排序阶段。
  • 仅使用记录的事件字段和学习到的语义ID，消除了手工设计的特征。
  • 在训练期间使用冻结的0.6B参数教师排名器进行蒸馏，在服务时将其移除。
  • 在线A/B测试中实现了活跃用户+4.53%、总收听时间+6.30%和点赞数+11.42%的提升。
  • 与之前的Argus系统相比，在活跃用户提升方面达到了2.35倍的效果。

该模型表明，单个生成式推荐器可以有效取代复杂的级联系统，同时提升用户参与度指标。