一位开发者发布了 UmarTransit-1B,这是一个针对公共交通系统和 GTFS 数据优化的开源语言模型,通过对 Qwen2.5-1.5B-Instruct 基础模型进行微调构建。
该模型使用 QLoRA 在由来自 10 个国家的 77M+ 行清理后的 GTFS 数据派生的 3,306 个合成指令-响应对上进行了训练。其整体 ROUGE-L 得分为 0.82,并提供 Safetensors 和 GGUF 格式以供本地推理。
该项目证明了数据质量优于数量,表明在 Colab T4 等免费硬件上,结构良好的训练对也能取得强劲的结果。