Пользователь на Hugging Face обсуждает свою попытку дообучить модель Llama-3.1-8B с использованием QLoRA и пользовательского скрипта автоматизации под названием ChetGPT. Цель состоит в создании модели для творческого письма, а не инструктивной, используя романы о Гарри Поттере в качестве обучающих данных.
Пользователь сообщает, что следование советам GPT привело к катастрофическим результатам: сцены случайно вырезались или неправильно переставлялись. Он делится своим кодом на Python для `train_auto.py`, который включает такие функции, как автоматический анализ данных, определение объема обучения на основе размера данных и тесты генерации для проверки усвоения стиля.
Пост служит запросом обратной связи относительно того, является ли этот подход и связанный с ним код правильными для достижения желаемых способностей к творческому письму.