JetBrains telah membuka sumber model-model Mellum2, sebuah seri LLM 12B-2.5A yang dilatih dari awal untuk menargetkan inferensi cepat pada perangkat keras H100/H200 serta distribusi lokal.

Model-model tersebut tersedia sebagai file GGUF di Ollama dan Hugging Face, dengan laporan teknis lengkap yang diterbitkan di arXiv.

Benchmark menunjukkan bahwa Mellum2 berkinerja sebanding dengan model bahasa kecil lainnya sambil menyediakan throughput yang jauh lebih tinggi di bawah beban konkuren.