GLM 5.2 FP8 com KV FP8 atinge 79,8% no Terminal-Bench 2.1

Um usuário testou o modelo GLM 5.2 usando precisão FP8 e quantização de cache chave-valor (KV) em uma GPU H200 via SGLang. A avaliação foi conduzida na suíte de benchmarks Terminal-Bench 2.1.

• O modelo passou em 71 das 89 tarefas, resultando em uma pontuação de 79,8%.
• Uma tarefa expirou o tempo limite e não foi reexecutada, o que pode ter afetado a pontuação final.
• O teste utilizou 218.656.815 tokens de entrada com uma taxa de acerto no cache de 98,8%.

Isso demonstra o desempenho do GLM 5.2 sob condições específicas de quantização em hardware de alta gama.