기억 유도 데이터 재사용은 4 에포크 제한을 넘어 효율적인 LLM 학습을 가능하게 합니다

연구자들은 모델의 기억 신호를 사용하여 대규모 언어 모델 학습 중 고품질 데이터를 언제, 어떻게 재사용할지 적응적으로 결정하는 학습 패러다임인 '기억 유도 데이터 재사용(Memorization-guided Data Reuse)'을 제안했습니다. 이 접근 방식은 전통적인 한 번의 통과 또는 고정 에포크 제약 조건을 넘어 샘플 효율성과 성능을 개선하는 것을 목표로 합니다.

이 방법은 손실 유지 역동성과 하류 평가 점수에서 '기억 창(Memorization Window)' 신호를 유도하여 학습 에포크와 데이터 재플레이 스케줄링에 대한 원칙적인 결정을 내립니다. 초기 실험은 일반적으로 인용되는 4 에포크 제한을 훨씬 넘어 반복에 따라 모델 성능이 지속적으로 개선되는 기억 기반 레짐을 시사합니다.

이러한 통찰력은 기억 인식 학습 일정의 기초를 제공하여 적절한 재사용 예산을 결정하는 데 도움을 주고, 제한된 고품질 데이터로 더 효율적인 LLM 학습을 가능하게 합니다.