ggml ajoute la quantification CPU Q2_0 pour supporter les modèles Ternary Bonsai

Le projet ggml a ajouté le support de la quantification Q2_0 pour les CPUs, spécifiquement pour permettre l'utilisation des modèles Ternary Bonsai. Cette mise à jour complète la famille de quantifications Q1_0, Q2_0, Q4_0 et Q8_0 au sein de la bibliothèque.

• L'implémentation prend en charge ARM NEON et inclut un repli scalaire générique.
• Elle permet d'exécuter les modèles Ternary Bonsai de 1.7B, 4B et 8B sur du matériel CPU.
• Les backends x86, Metal, CUDA et Vulkan sont prévus pour une soumission future.

Cette addition permet aux utilisateurs d'exécuter les modèles Ternary Bonsai en utilisant le nouveau format Q2_0 pris en charge sur des CPUs compatibles.