Kimi k1.5 멀티모달 LLM은 몬테카를로 트리 탐색이나 가치 함수와 같은 복잡한 기법을 피하며, 긴 컨텍스트 스케일링과 개선된 정책 최적화에 의존하는 단순화된 강화학습 프레임워크를 사용합니다.

  • 이 시스템은 AIME에서 77.5, MATH 500에서 96.2, Codeforces에서 상위 94퍼센타일을 기록하는 등 여러 벤치마크에서 최상위 추론 성능을 달성했습니다.
  • long2short 방법은 긴-CoT 기법을 활용하여 짧은-CoT 모델을 향상시켜 AIME에서 60.8, MATH500에서 94.6, LiveCodeBench에서 47.3의 결과를 얻었습니다.
  • 이러한 짧은-CoT 개선 사항은 기존 GPT-4o 및 Claude Sonnet 3.5 모델보다 최대 +550%까지 큰 격차로 앞섭니다.

이 접근 방식은 복잡한 인프라에 의존하지 않고도 AI 성능 향상을 위한 새로운 축을 열어줌으로써 OpenAI의 o1과 동등한 수준을 달성하고 다른 짧은 컨텍스트 모델을 크게 능가함을 보여줍니다.