OpenLLM-France merilis Luciole-23B-Instruct-1.1 dengan penyesuaian DPO

LINAGORA dan konsorsium OpenLLM-France telah merilis Luciole-23B-Instruct-1.1, versi yang telah di-fine-tune dan disesuaikan dari model bahasa kausal multibahasa open-source mereka.

Model ini dilatih di Jean Zay dalam tiga tahap: fine-tuning terawasi pada data instruksi dengan jejak pemikiran, fine-tuning terawasi tanpa jejak pemikiran, dan penyesuaian preferensi menggunakan Optimasi Preferensi Langsung (DPO). Data pelatihan mencakup matematika, sains, pemrograman, obrolan umum, RAG, dan terjemahan. Varian yang lebih kecil 8B dan 1B juga tersedia.

Rilis ini menyediakan opsi berlisensi Apache 2.0 untuk mengikuti instruksi multibahasa, didukung oleh program France 2030.