Под влиянием растущих затрат на передовые модели и мощи моделей с открытыми весами Glean применяет маршрутизацию моделей для динамического выбора наиболее подходящей ИИ-модели для каждой корпоративной задачи. Этот подход позволяет платформе избегать использования больших языковых моделей для простых операций, одновременно оптимизируя производительность и расходы для сложных запросов.
- Glean предлагает три уровня выбора модели: явный выбор пользователя, административные ограничения и автоматический динамический режим.
- Автоматический режим преимущественно используется клиентами по экономическим соображениям; сооснователь Тони Джентилькор утверждает, что система в 4 раза более рентабельна, чем Claude Code.
- Платформа в среднем обходится в $0.45 за задачу по сравнению с $1.84 для Claude Cowork, используя свои возможности оркестровки и маршрутизации.
- Широкое развертывание Glean в таких организациях, как Zillow и Booking.com, обеспечивает обширные данные о том, как бизнес-пользователи взаимодействуют с ИИ.
Глубоко понимая организационные знания и поведение пользователей, Glean стремится стать всеобъемлющей мета-платформой оркестровки, объединяющей мощь нескольких ведущих LLM в единый экономически эффективный опыт для предприятий.