Together AI et Y Combinator ont annoncé un partenariat pour fournir le premier cluster GPU dédié exclusivement au portefeuille de startups axées sur l'IA de Y Combinator. Cette initiative vise à résoudre le goulot d'étranglement critique de l'accès au calcul en offrant une infrastructure flexible et rentable pour l'entraînement et l'inférence, sans engagement à long terme.
- Le cluster permet aux startups de réserver et de provisionner des GPU directement via le portail self-service de Together avec une facturation individuelle, maintenant la gestion séparée de YC.
- Les fondateurs peuvent activer des GPU en quelques minutes et bénéficier de tarifs à long terme tout en conservant la flexibilité de mettre à l'échelle pour des sprints à court terme.
- L'infrastructure prend en charge une gamme complète de besoins, allant du calcul sur nœud unique pour les équipes en phase initiale aux exigences de mise à l'échelle plus importantes.
- Together AI exploite ses recherches sur les mécanismes d'attention et l'architecture Mamba pour améliorer la vitesse d'inférence et l'économie unitaire des charges de travail sur le cluster.
Le partenariat répond à la difficulté croissante et au coût de sécurisation de la capacité de calcul, permettant aux fondateurs d'accéder à des ressources comparables à celles des grandes entreprises tout en conservant le contrôle de leur utilisation.