LINAGORA 和 OpenLLM-France 联盟发布了 Luciole-23B-Instruct-1.1,这是其开源多语言因果语言模型的微调和对齐版本。
该模型在 Jean Zay 上分三个阶段训练:带思维链的指令数据监督微调、不带思维链的监督微调,以及使用直接偏好优化(DPO)的偏好对齐。训练数据涵盖数学、科学、编程、通用聊天、RAG 和翻译。还提供较小的 8B 和 1B 变体。
此发布提供了 Apache 2.0 许可的多语言指令跟随选项,由 France 2030 计划支持。
LINAGORA 和 OpenLLM-France 联盟发布了 Luciole-23B-Instruct-1.1,这是其开源多语言因果语言模型的微调和对齐版本。
该模型在 Jean Zay 上分三个阶段训练:带思维链的指令数据监督微调、不带思维链的监督微调,以及使用直接偏好优化(DPO)的偏好对齐。训练数据涵盖数学、科学、编程、通用聊天、RAG 和翻译。还提供较小的 8B 和 1B 变体。
此发布提供了 Apache 2.0 许可的多语言指令跟随选项,由 France 2030 计划支持。