Gemma 4 31B의 QLoRA 파인튜닝이 루마니아어 간 언어 관계 추출 격차를 해소

본 연구는 SemEval-2010 Task 8 벤치마크를 번역하고 인코더 기반 모델과 비교하여 Gemma 4 31B를 평가함으로써 루마니아어의 간 언어 관계 추출을 조사합니다. 결과, QLoRA 파인튜닝은 매크로 F1 점수를 22퍼센트포인트 이상 향상시켜 간 언어 격차를 3.3에서 1.4pp로 줄였습니다.

• 루마니아어는 프롬프트 전용 설정에서 영어 대비 3~5pp의 성능 저하를 보입니다.
• 퓨샷 프롬프팅은 제로샷에 비해 미미한 향상만 제공합니다.
• 인코더 기반 모델은 QLoRA Gemma보다 50~250배 작음에도 불구하고 1~4pp 차이에 불과합니다.
• 125M 파라미터의 단일 언어 루마니아어 BERT는 278M 파라미터의 다국어 XLM-R과 동등한 성능을 보입니다.

저자들은 계산 자원이 중요한 배포 시나리오에서 루마니아어 단일 작업 관계 추출에 31B 모델을 사용하는 것은 비효율적이라고 결론지었습니다.