이 기사는 로컬 배포를 위해 작은 오픈 가중치 모델(2B–7B)의 실용적 유용성에 대해 질문을 제기하며, 더 큰 모델과 비교하여 개인 워크플로우에 충분해지고 있는지 묻습니다.

특히 현재 로컬에서 모델을 실행 중인 사용자에게 다음 사항에 대한 경험을 공유해 줄 것을 요청합니다:

  • 사용하는 특정 모델 및 하드웨어 구성.
  • 작은 모델이 놀라울 정도로 잘 수행한 작업.
  • 벤치마크 숫자가 아닌 실제 환경 설정.

저자는 이론적 성능 지표 대신 실용적인 실제 사용 사례를 보고 싶어한다고 강조합니다.