Microsoft는 훈련 전반에 걸쳐 합성 데이터의 전략적 활용을 통해 데이터 품질을 우선시하는 140억 파라미터 언어 모델인 Phi-4의 기술 보고서를 게시했습니다. GPT-4에서 능력을 증류한 이전 Phi 모델들과 달리, Phi-4는 STEM 중심 QA 작업에서 교사 모델을 능가하며, 그 데이터 생성 및 사후 훈련 기법이 단순한 증류를 넘어선다는 것을 입증했습니다.
- 이 모델은 유기적 웹 콘텐츠나 코드뿐만 아니라 고품질 합성 데이터에 초점을 맞춘 훈련 레시피를 사용합니다.
- Phi-4는 STEM 중심 질문 답변 능력에서 GPT-4를 크게 능가합니다.
- 개선된 데이터, 훈련 커리큘럼 및 사후 훈련 혁신으로 인해 모델의 크기에 비해 강력한 성능을 달성하며, 특히 추론 중심 벤치마크에서 두각을 나타냅니다.
보고서는 phi-3에서 아키텍처 변경이 최소화되었음에도 불구하고 데이터 품질에 대한 초점이 특정 도메인에서 교사 능력을 초과할 수 있게 했다고 강조합니다.