L'auteur présente Orchard Compute, un outil conçu pour automatiser les aspects infrastructure de l'entraînement des modèles. En se connectant via le Model Context Protocol (MCP), les utilisateurs peuvent décrire leurs exigences en langage naturel pour gérer la sélection du calcul et le provisionnement de l'environnement.
- Orchestre la sélection et le provisionnement du fournisseur de GPU en fonction des contraintes budgétaires.
- Automatise la préparation de l'environnement d'entraînement pour éliminer les étapes de configuration manuelle.
- Permet aux utilisateurs de spécifier des tâches comme le fine-tuning des modèles via des invites simples en une seule phrase.
L'auteur cherche des retours de personnes qui entraînent ou font du fine-tuning de modèles activement afin d'identifier d'éventuels problèmes avec l'outil.