AI Hardware Fit 的创作者发布了一款免费开源浏览器工具,旨在帮助用户判断本地模型是否适配其 GPU,并比较合适的硬件选项。该工具解决了从不同来源拼凑模型文件、量化方式、上下文长度和运行时支持所面临的复杂性。

  • 用户可以从特定 GPU 入手,查看候选模型、推荐的量化方案、预估的显存和速度范围,以及适用于 Ollama 或 llama.cpp 的命令。
  • 或者,从模型出发,用户可以根据预算、功耗和外形尺寸比较合适的 GPU。
  • 目录目前包含 151 个 GPU 预设和 332 个 AI 模型,并提供 Mac mini M4 (32GB) 和 M4 Pro (64GB) 的快速选择。
  • 界面使用已发布的基准测试分数显示显存质量前沿,并为兼容的 GPU 显示价格-速度前沿。

该工具旨在通过分别标注精确条件测量值、校准范围和计算估算值来提供透明证据,帮助用户为本地 AI 部署做出明智的规划决策。