JetBrains a open-sourcé les modèles Mellum2, une série de LLMs de 12B-2.5A entraînés从零开始 pour cibler l'inférence rapide sur le matériel H100/H200 ainsi que les déploiements locaux.
Les modèles sont disponibles en tant que fichiers GGUF sur Ollama et Hugging Face, avec un rapport technique complet publié sur arXiv.
Les benchmarks indiquent que Mellum2 offre des performances comparables à d'autres petits modèles de langage tout en fournissant un débit significativement plus élevé sous charge concurrente.