Многомодельная языковая модель Kimi k1.5 использует упрощённую схему обучения с подкреплением, основанную на масштабировании длинного контекста и улучшенной оптимизации политики, избегая сложных методов, таких как поиск по дереву Монте-Карло или функции ценности.

  • Система демонстрирует лучшие результаты в рассуждениях по нескольким бенчмаркам: 77.5 на AIME, 96.2 на MATH 500 и 94-й перцентиль на Codeforces.
  • Метод long2short использует техники длинного цепочечного мышления для улучшения моделей с коротким цепочечным мышлением, достигая результатов 60.8 на AIME, 94.6 на MATH500 и 47.3 на LiveCodeBench.
  • Эти улучшения короткого цепочечного мышления значительно превосходят существующие модели, такие как GPT-4o и Claude Sonnet 3.5, вплоть до +550%.

Этот подход показывает, что масштабирование обучения с подкреплением открывает новые направления для улучшения ИИ без опоры на сложную инфраструктуру, достигая уровня OpenAI o1 и значительно превосходя другие модели с коротким контекстом.