Un usuario de Reddit expresa preocupación por la posible pérdida de acceso a pesos abiertos para hardware de 96GB a 128GB y cuestiona si un Modelo de Lenguaje Grande impulsado por la comunidad es viable.

  • La propuesta sugiere combinar modelos de código abierto, datos de entrenamiento y recursos de hardware distribuidos de los miembros de /r/localllama.
  • Imagina usar un LLM con contexto RAG de artículos y código para SGLang/vLLM que codifique autónomamente un mejor modelo.
  • El autor pregunta si algún grupo existente ya está emprendiendo este esfuerzo colaborativo.