저자는 최신 상태의 chain-of-thought (CoT) 트레이스를 요약하거나 검열한 모델에 대한 파인튜닝 관행에 의문을 제기하며, 이것이 출력 품질을 개선하는 마법의 해결책이 아니라고 주장합니다.
- 디스틸레이션은 기본 모델이 수행할 수 있는 수준 이상의 출력 품질을 높이지 않습니다.
- Fable 및 Anthropic의 모델을 기반으로 한 파인튜닝은 그들의 추론 트레이스가 실제 모델 출력과 크게 다르기 때문에 비판받고 있습니다.
- 이러한 불일치는 결과적으로 파인튜닝된 모델이 이전보다 더 나쁜 성능을 보일 것임을 보장합니다.
저자는 이러한 요약된 트레이스에 의존하는 것이 추론 능력 향상에 역효과를 낳는다고 제안합니다.