본 기사는 MIGHT 스택(Model, Inference, Gateways, Harness, Tools)을 개괄합니다. 이는 심층적인 머신러닝 전문 지식이나 전용 하드웨어 없이도 에이전트 소프트웨어를 위해 오픈 소스 모델을 활용할 수 있게 하는 모듈식 아키텍처입니다.

  • 모델 레이어는 지능 구성 요소로 작용하며, Kimi K3와 같은 대형 모델은 복잡한 추론에 적합하고 GLM 5.3 Flash와 같은 소형 모델은 좁은 작업에 대해 속도와 비용 효율성을 제공합니다.
  • 추론 제공자는 API를 통해 이러한 모델을 호스팅하므로 개발자는 토큰 단위로 지불하고 인프라 관리 없이 다양한 제공자를 실험할 수 있습니다.
  • 게이트웨이와 라우터는 단일 API 뒤에 여러 추론 제공자를 집계하여 비용이나 성능에 따라 모델과 백엔드 간 원활한 전환을 가능하게 합니다.
  • 하네시는 사용자, 코드베이스 및 모델 간의 상호작용을 관리하며, 실제 작업을 수행하기 위해 모델이 결정한 도구와 명령을 실행합니다.

이 관심사의 분리는 개발자가 새로운 모델을 신속하게 실험하고 개발 워크플로우의 각 레이어를 독립적으로 사용자 정의할 수 있게 합니다.