Poussé par la hausse des coûts des modèles de pointe et la puissance des modèles à poids ouverts, Glean emploie le routage de modèles pour sélectionner dynamiquement le modèle d'IA le plus approprié pour chaque tâche entreprise. Cette approche permet à la plateforme d'éviter l'utilisation de grands modèles de langage pour des opérations simples tout en optimisant les performances et les dépenses pour les requêtes complexes.
- Glean propose trois niveaux de sélection de modèles : choix explicite de l'utilisateur, restrictions administratives et mode dynamique automatique.
- Le mode automatique est principalement adopté par les clients pour des raisons économiques, le cofondateur Tony Gentilcore affirmant que le système est 4 fois plus rentable que Claude Code.
- La plateforme affiche une moyenne de 0,45 $ par tâche contre 1,84 $ pour Claude Cowork, tirant parti de son harnais et de ses capacités de routage.
- Le déploiement étendu de Glean au sein d'organisations comme Zillow et Booking.com fournit des données approfondies sur la manière dont les utilisateurs professionnels interagissent avec l'IA.
En comprenant profondément les connaissances organisationnelles et le comportement des utilisateurs, Glean vise à servir de méta-harnais complet qui combine la puissance de plusieurs LLM leaders en une seule expérience rentable pour les entreprises.