본 논문은 볼테르 전집에서 추출한 두 개의 부분 코퍼스를 테스트 케이스로 사용하여 기계 학습을 자동 주제 색인에 적용하는 것을 탐구합니다. 이 작업은 모델이 텍스트 페이지에 색인 항목을 할당하는 다중 레이블 분류 문제로 프레임됩니다.

  • 연구는 분류 헤드가 있는 인코더 기반 모델과 저랭크 적응(LoRA)을 통해 파인튜닝된 생성형 대규모 언어 모델(LLM)을 비교합니다.
  • 모델 크기는 약 30억에서 1200억 파라미터 범위입니다.
  • 가장 우수한 성능을 보인 모델은 4비트 양자화된 구성의 Mistral 패밀리 모델로, F1 점수가 최대 0.67에 도달했습니다.
  • 저자들은 이러한 수치가 전문 색인의 본질적인 주관성으로 인해 하한선을 나타낸다고 주장합니다.

이 결과는 대규모 문학 및 역사적 코퍼스에 대한 구조화된 주제 접근을 제공하는 데 함의를 가집니다.