A JetBrains open-sourced os modelos Mellum2, uma série de LLMs de 12B-2.5A treinados do zero para atingir inferência rápida em hardware H100/H200, bem como implantações locais.
Os modelos estão disponíveis como arquivos GGUF no Ollama e Hugging Face, com um relatório técnico completo publicado no arXiv.
Os benchmarks indicam que o Mellum2 tem desempenho comparável a outros modelos de linguagem pequenos, enquanto fornece throughput significativamente maior sob carga concorrente.