NVIDIA는 AI 성능이 정확도, 처리량, 상호작용성이라는 세 가지 차원에 의존한다고 설명합니다. 동사는 실용적인 시스템은 단일 지표에 집중하기보다 이러한 요소들을 함께 최적화해야 한다고 강조합니다.

  • 모델 응답이 느리면 높은 정확도는 무의미합니다.
  • 사용자 경험이 지연으로 인해 저하되면 순수한 처리량은 거의 가치를 제공하지 않습니다.
  • 모델 설계 선택은 처리량과 상호작용성 모두에 직접적인 영향을 미칩니다.
  • 효과적인 성능을 보장하려면 세 가지 차원 모두를 균형 있게 맞추어야 합니다.