ggml, Ternary Bonsai 모델 지원을 위해 Q2_0 CPU 양자화 추가

ggml 프로젝트는 Ternary Bonsai 모델을 사용할 수 있도록 CPU용 Q2_0 양자화 지원을 추가했습니다. 이 업데이트로 라이브러리 내의 Q1_0, Q2_0, Q4_0 및 Q8_0 양자화 패밀리가 완성되었습니다.

• 구현은 ARM NEON을 지원하고 일반적인 스칼라 폴백을 포함합니다.
• CPU 하드웨어에서 1.7B, 4B 및 8B Ternary Bonsai 모델을 실행할 수 있습니다.
• x86, Metal, CUDA 및 Vulkan 백엔드는 향후 제출될 예정입니다.

이 추가 기능으로 사용자는 호환되는 CPU에서 새로 지원되는 Q2_0 형식을 사용하여 Ternary Bonsai 모델을 실행할 수 있습니다.