Kimi k1.5 menskalakan pembelajaran penguatan dengan LLM untuk menyamai o1 dan mengalahkan model short-CoT

LLM multimodal Kimi k1.5 menggunakan kerangka kerja pembelajaran penguatan yang disederhanakan yang mengandalkan penskalaan konteks panjang dan optimisasi kebijakan yang lebih baik, menghindari teknik kompleks seperti pencarian pohon Monte Carlo atau fungsi nilai.

• Sistem ini mencapai kinerja penalaran terbaik di berbagai benchmark, termasuk 77.5 pada AIME, 96.2 pada MATH 500, dan persentil ke-94 pada Codeforces.
• Metode long2shortnya memanfaatkan teknik long-CoT untuk meningkatkan model short-CoT, menghasilkan hasil 60.8 pada AIME, 94.6 pada MATH500, dan 47.3 pada LiveCodeBench.
• Peningkatan short-CoT ini mengungguli model yang ada seperti GPT-4o dan Claude Sonnet 3.5 dengan margin besar, hingga +550%.

Pendekatan ini menunjukkan bahwa penskalaan pembelajaran penguatan membuka sumbu baru untuk peningkatan AI tanpa bergantung pada infrastruktur kompleks, menyamai o1 dari OpenAI sambil secara signifikan melampaui model konteks pendek lainnya.