LINAGORA와 OpenLLM-France 컨소시엄은 오픈 소스 다국어 인과 언어 모델의 파인튜닝 및 정렬된 버전인 Luciole-23B-Instruct-1.1을 출시했습니다.
이 모델은 Jean Zay에서 3단계로 훈련되었습니다: 사고 트레이스가 포함된 지시 데이터에 대한 지도 파인튜닝, 사고 트레이스 없는 지도 파인튜닝, 그리고 직접 선호도 최적화(DPO)를 사용한 선호도 정렬입니다. 훈련 데이터에는 수학, 과학, 코딩, 일반 채팅, RAG 및 번역이 포함됩니다. 더 작은 8B 및 1B 변형도 제공됩니다.
이번 릴리스는 France 2030 프로그램의 지원을 받는 다국어 지시 추종을 위한 Apache 2.0 라이선스 옵션을 제공합니다.