Пользователь Reddit выражает обеспокоенность по поводу возможной потери доступа к открытым весам на оборудовании с памятью 96–128 ГБ и задаётся вопросом, реализуема ли крупная языковая модель, разрабатываемая сообществом.

  • Предложение предполагает объединение моделей с открытым исходным кодом, обучающих данных и распределённых аппаратных ресурсов от участников /r/localllama.
  • Рассматривается использование LLM с контекстом RAG из статей и кода для SGLang/vLLM, чтобы автономно написать улучшенную модель.
  • Автор спрашивает, не занимается ли уже какая-либо группа подобными совместными усилиями.