Пользователь Reddit сообщает, что запуск открытой модели Gemma 4 31B, квантованной до 5 бит на потребительской видеокарте с 32 ГБ VRAM, обеспечивает значительно более высокое качество по сравнению со стандартным бесплатным уровнем ChatGPT.
- Пользователь приобрел видеокарту с 32 ГБ VRAM для запуска локальных больших языковых моделей.
- Он сравнил производительность Gemma 4 31B с моделью OpenAI по умолчанию после исчерпания начальных сообщений.
- Пользователь описывает разницу в качестве как существенную, предполагая, что OpenAI может экономить средства, используя модель более низкого качества для бесплатных пользователей.
Пост подчеркивает растущие возможности локальных открытых моделей конкурировать с проприетарными сервисами.