본 글은 다양한 데이터 분포에서 밀도 추정과 점수 기반 생성 작업을 모두 수행할 수 있는 통합 트랜스포머 모델인 DiScoFormer를 소개합니다.

  • 이 모델은 단일 아키텍처를 사용하여 여러 생성 모델링 목표를 동시에 처리합니다.
  • 별도의 전용 모델 없이 다양한 유형의 데이터 분포 전반에 걸쳐 효과성을 입증합니다.
  • 이 접근 방식은 고유한 작업을 하나의 프레임워크로 통합하여 생성 모델링 파이프라인을 간소화하는 것을 목표로 합니다.