NVIDIA 概述了 AI 性能如何依赖于三个维度：准确性、吞吐量和交互性。该公司强调，实际系统必须共同优化这些因素，而不是专注于单一指标。

  • 如果模型响应缓慢，高准确性也无效。
  • 如果用户体验因延迟而受损，原始吞吐量几乎没有价值。
  • 模型设计选择直接影响吞吐量和交互性。
  • 部署需要平衡所有这三个维度，以确保有效性能。