LINAGORA и консорциум OpenLLM-France выпустили Luciole-23B-Instruct-1.1, дообученную и выровненную версию их открытой многоязычной причинной языковой модели.
Модель обучалась на Jean Zay в три этапа: контролируемое дообучение на данных инструкций с треками размышления, контролируемое дообучение без треков размышления и выравнивание предпочтений с помощью прямой оптимизации предпочтений (DPO). Обучающие данные охватывают математику, науку, программирование, общий чат, RAG и перевод. Также доступны меньшие варианты на 8B и 1B.
Это издание предоставляет вариант с лицензией Apache 2.0 для следования многоязычным инструкциям, поддерживаемый программой France 2030.