FitCheck 是一款新工具，可在不需要 PyTorch、CUDA 或实际 GPU 硬件的情况下，估算 LoRA、QLoRA 和大语言模型全量微调的峰值 VRAM 需求。

  • 它分析模型的 Hugging Face config.json 和参数量元数据，以报告内存分解、可用容量、余量和适配结论。
  • 该工具支持基于模型权重和 KV 缓存的服务估算，并提供用于探索批次大小、序列长度和 LoRA 秩的建议器。
  • 在 Tesla T4 上的测试显示，经过 57 次校准运行，平均绝对误差为 2.4%，并在单独的保持测试中产生了 12/12 个正确的适配边界结论。

该工具帮助用户在开始任务前确定其 LLM 配置是否能放入 GPU 内存，旨在减少猜测和内存不足错误。