ggml adiciona quantização Q2_0 para CPU para suportar modelos Ternary Bonsai

O projeto ggml adicionou suporte à quantização Q2_0 para CPUs, especificamente para habilitar o uso de modelos Ternary Bonsai. Esta atualização completa a família de quantização Q1_0, Q2_0, Q4_0 e Q8_0 dentro da biblioteca.

• A implementação suporta ARM NEON e inclui um fallback escalar genérico.
• Ela permite executar modelos Ternary Bonsai de 1.7B, 4B e 8B em hardware de CPU.
• Os backends x86, Metal, CUDA e Vulkan estão planejados para submissão futura.

Esta adição permite que os usuários executem modelos Ternary Bonsai usando o novo formato Q2_0 suportado em CPUs compatíveis.