DALorRA는 베이지안 희소 LoRA를 적용하여 LLM의 불확실성 추정을 개선합니다

저자들은 데이터 적응형 저랭크 어댑테이션(DALorRA)을 제안했습니다. 이는 작업별 파인튜닝 중 대규모 언어 모델의 과신 문제를 해결하기 위해 설계된 변분 베이지안 희소 프레임워크입니다. 이 방법은 불확실성 정량을 밀집 매개변수 공간에서 저랭크 어댑테이션(LoRA)의 경량 랭크 수준으로 이동합니다. 랭크 차원에 확률적 마스킹을 부과함으로써 DALorRA는 훈련 중 모델 용량의 베이지안 정규화를 가능하게 하고 추론 시 앙상블과 같은 보정을 제공합니다.

광범위한 실험을 통해 DALorRA가 추론 정확도를 희생하지 않고 LLM에 대해 우수한 보정을 달성한다는 것이 입증되었습니다.