Together proporciona un marco para que las empresas migren de modelos de IA propietarios a modelos de código abierto (OSM) utilizando servicios gestionados, con el objetivo de reducir la complejidad y acelerar la adopción. El proceso implica descubrir modelos adecuados mediante benchmarks, evaluarlos mediante la repetición del tráfico, adaptar los prompts o los pesos, y calcular el ROI para justificar el cambio.

  • El descubrimiento se basa en definir casos de uso y filtrar candidatos utilizando benchmarks como LMArena y FrontierCode.
  • La evaluación prioriza la repetición del tráfico con datos reales sobre las tablas de clasificación genéricas para evaluar métricas de precisión y rendimiento, como el costo por tarea.
  • La adaptación implica el ajuste iterativo de los prompts del sistema, los parámetros de muestreo o el ajuste fino de los pesos del modelo para igualar la calidad de los modelos propietarios.
  • Los cálculos de ROI pueden mostrar una reducción de costos de hasta el 70%, ayudando a las partes interesadas a aprobar la migración basándose en un valor cuantificable.
  • El despliegue en producción a menudo comienza con implementaciones canario del 10% del tráfico para validar la estabilidad antes de la adopción completa.

Este enfoque permite a las empresas evitar los ciclos de migración tradicionales lentos aprovechando servicios gestionados y pruebas iterativas para lograr transiciones más rápidas y de menor riesgo.