探索的研究は、大規模言語モデルが両方とも同じ次期トークン予測メカニズムを使用しているにもかかわらず、言語生成と知覚の間に機能的な非対称性を示すことを実証した。研究者らは、メタリンギスティック・プロンプティングに依存するのではなく、トークン確率を直接測定することにより、プロンプトの枠組みだけでデコーダー専用アーキテクチャにおいて異なる確率分布を引き起こすことを見出した。

  • ベースのLlama-3.1-8Bモデルを使用して、研究は生成用プロンプトの下で詩を生成し、知覚指向のプロンプトの下でそれらを再採点した。
  • 生成-知覚距離は一貫して生成-生成距離を超え、全体の平均比は約1.8であった。
  • この効果は5つのオープンウェイトモデルで再現された：Llama-3.1-8B、EuroLLM-9B、gemma-2-9b-it、Mistral-7B-Instruct-v0.3、およびQwen2.5-7B-Instruct。
  • 時間的解析は、知覚プロンプトの影響がシーケンスの開始時に最も強く、生成されたコンテキストが蓄積するにつれて分岐が減衰することを示した。

これらの発見は、コミュニケーションの枠組みがLLMが情報を処理する方法に大きく影響し、テキストの生成と評価を区別することを示唆している。