В статье представлена дискуссия на форуме о критериях выбора подходящей открытой большой языковой модели при создании приложений Retrieval-Augmented Generation.
Она рассматривает конкретную проблему определения, какая модель лучше всего соответствует требованиям поиска документов и ответов на вопросы.
Материал служит поводом для получения отзывов сообщества, а не предоставляет окончательное техническое руководство или результаты бенчмарков.