Un usuario de Reddit busca recomendaciones sobre el mejor modelo de visión e idioma (VLM) o gran modelo de lenguaje (LLM) para ejecutar en una configuración de hardware específica que consta de 192 GB de memoria DDR5 de doble canal y dos GPUs RTX 5090.
El autor del mensaje menciona haber visto referencias a Qwen 27B en otras discusiones y pregunta si hay una forma confiable de seguir los rankings de modelos o si la selección se basa principalmente en la experiencia de la comunidad.
Esta consulta destaca el interés continuo en optimizar la inferencia de IA local con hardware de consumo de alta gama.