В этой статье описывается MIGHT Stack (Model, Inference, Gateways, Harness, Tools) — модульная архитектура, позволяющая разработчикам использовать открытые модели для создания агентного программного обеспечения без необходимости глубоких знаний в области машинного обучения или выделенного оборудования.

  • Слой Model выступает в роли компонента интеллекта: крупные модели, такие как Kimi K3, подходят для сложного логического вывода, а мелкие модели, например GLM 5.3 Flash, обеспечивают скорость и экономическую эффективность для узкоспециализированных задач.
  • Поставщики инференса размещают эти модели через API, позволяя разработчикам оплачивать использование по количеству токенов и экспериментировать с различными провайдерами без управления инфраструктурой.
  • Шлюзы и маршрутизаторы агрегируют несколько поставщиков инференса за единым API, обеспечивая бесшовное переключение между моделями и бэкендами в зависимости от стоимости или производительности.
  • Harness управляет взаимодействием между пользователем, кодовой базой и моделью, выполняя инструменты и команды, выбранные моделью, для выполнения фактической работы.

Такое разделение ответственности позволяет разработчикам быстро экспериментировать с новыми моделями и настраивать каждый слой своего рабочего процесса разработки независимо.