Разработчик с 45-летним опытом в разработке программного обеспечения завершает создание локально-ориентированного фреймворка для запуска локальных моделей и моделей через API, включающего логику работы с несколькими агентами. Автор потратил шесть месяцев на разработку инструментов для улучшения рабочего процесса с локальными LLM и теперь спрашивает сообщество, какие функции могли бы улучшить их опыт.
- Фреймворк поддерживает как локальные модели, так и модели через API с локально-ориентированной архитектурой.
- Он включает специфическую логику для управления несколькими агентами, которая будет опубликована в открытом доступе на GitHub.
- Автор приглашает пользователей комментировать желаемые функции и ставить лайки существующим комментариям, чтобы определить приоритеты разработки.
Эта инициатива направлена на то, чтобы вернуть долг сообществу, используя обширный профессиональный опыт для создания удобных инструментов, решающих распространённые крайние случаи.