Um usuário do Reddit pergunta se o futuro dos modelos de 1 bit é promissor, citando o Bonsai 8b com tamanho de 1gb como funcional e observando que um modelo de 27b foi reduzido para 5gb. A postagem busca consenso sobre os principais casos de uso para esses modelos altamente comprimidos. Questiona se a quantização de 1 bit ainda é um sonho impossível ou um caminho viável.
Discussão no Reddit sobre a viabilidade e o futuro de modelos de 1 bit
Traduzido do English → Português (BR)