著者は、特定のコンテキストにおける活性化パスに基づいてローカルモデルをマッピングおよび制御する観察結果を共有しています。この投稿は、一連のバッチプロンプトに応答する際に、異なるモデル間で活性化パスにばらつきがあることを強調しています。

  • Gemma 4 31b qat は活性化パスの最小限のばらつきを示した。
  • Gemma 4 26b qat は極端なばらつきを示した。
  • Qwen 3.6 35b q_4 は活性化パスの明滅において中程度のばらつきを示した。

著者はこれらの活性化パスを人間の心におけるニューラルクラスターに例え、モデル内の特定の反応的特徴を特定および操作する可能性を示唆しています。