Baseten теперь поддерживается как поставщик инференса на платформе Hugging Face Hub, что расширяет возможности бессерверного инференса непосредственно на страницах моделей. Эта интеграция позволяет разработчикам получать доступ к каталогу передовых моделей Baseten через клиентские SDK и пользовательский интерфейс Hugging Face.

  • Начальный этап поддержки охватывает задачи диалоговых систем и генерации текста для LLM с открытыми весами, включая Kimi K3, DeepSeek V4 Flash и GLM-5.2.
  • Пользователи могут задавать собственные API-ключи или использовать маршрутизированные запросы Hugging Face, которые оплачиваются через их аккаунт HF.
  • Baseten интегрирован в клиентские SDK (huggingface_hub >= 1.26.1 для Python и @huggingface/inference для JavaScript).
  • Поставщик поддерживается фреймворками для агентов, такими как Pi, OpenCode, Hermes Agents и OpenClaw.

Эта интеграция позволяет пользователям подключать модели, размещенные на Baseten, к своим приложениям с минимальными усилиями по настройке и получать прямой доступ к популярным LLM с открытыми весами через экосистему Hugging Face.