独立した研究者が、TreeNetsを提案しました。これは決定木を活用して大規模言語モデルのサイズを劇的に削減する方法です。この取り組みは、ニューラルネットワークと決定木の間の基本的な関連性を明らかにすることを目的としています。

著者は研究論文の初稿をCodeberg上で公開し、ソースコードリポジトリも同時に公開しました。さらに、TreeNetsとBartを組み合わせたモデル（tree_bart_xsum_6_6）がHugging Faceにアップロードされ、一般公開されています。