O artigo apresenta o DiScoFormer, um modelo transformer unificado capaz de realizar tanto estimativa de densidade quanto tarefas de geração baseada em score em várias distribuições de dados.
- O modelo utiliza uma única arquitetura para lidar com múltiplos objetivos de modelagem generativa simultaneamente.
- Ele demonstra eficácia em diferentes tipos de distribuições de dados sem exigir modelos especializados separados.
- A abordagem visa simplificar o pipeline de modelagem generativa consolidando tarefas distintas em um único framework.