Un usuario de Reddit informa que ejecutar el modelo de código abierto Gemma 4 31B cuantizado a 5 bits en una GPU de consumo con 32 GB de VRAM proporciona una calidad significativamente mejor que la capa gratuita estándar de ChatGPT.

  • El usuario compró una GPU con 32 GB de VRAM para ejecutar modelos de lenguaje grandes locales.
  • Comparó el rendimiento de Gemma 4 31B contra el modelo predeterminado de OpenAI después de agotar los mensajes iniciales.
  • El usuario describe la diferencia de calidad como sustancial, sugiriendo que OpenAI podría estar recortando costos utilizando un modelo de menor calidad para usuarios gratuitos.

La publicación destaca la creciente capacidad de los modelos locales de código abierto para competir con servicios propietarios.