JetBrainsはMellum2モデルをオープンソース化しました。これは、H100/H200ハードウェアでの高速推論およびローカルデプロイメントを対象としてゼロからトレーニングされた12B-2.5A LLMsのシリーズです。

モデルはOllamaとHugging FaceでGGUFファイルとして利用可能であり、完全な技術レポートがarXivに公開されています。

ベンチマークによると、Mellum2は他の小規模言語モデルと比較して同等のパフォーマンスを示しつつ、同時負荷下で大幅に高いスループットを提供します。