独立研究者のJason Van Phamによるプレプリントは、重み編集なしで制御、想起、推論を可能にするため、凍結されたモデル間で連続表現を変換することを提案している。この研究では、概念をあるモデルの空間内の残差方向にコンパイルし、アフィン変換によって別のモデルの隠れ層へマッピングする方法が導入されている。

  • 最初の実験では、Qwen2.5-0.5Bにおける概念方向に負のゲインを加えることで、架空の生物のプロンプトに対する生成が「生きている動物」の解釈から「物体言語」（例：「ポータブルストーブ」）へとシフトした。
  • 第2のレジームでは、Qwen3-Embedding-8Bからの順序付けられた断片をLlama-3.1-8Bの入力スロットにマッピングし、ターゲットモデルが非頻出命題を再構築し、一致する推論をサポートできるようにしている。
  • 埋め込み段階でのランク128圧縮は対称類似性（r=0.937）を維持したが、再構築品質を低下させ、トークン識別よりも前に検索幾何学が圧縮に耐えることを示した。
  • 著者は主張を明示的に制限し、この方法はファインチューニングでもKVキャッシュメモリでもなく、一般的な意味論的転倒の証明でもないことに言及している。

本研究は、特定のプロンプトファミリーに対する符号感応性の残差状態遷立を確立し、コンパクトな転倒と順序付けられた想起がモデル間情報伝達のための異なる動作点であることを実証した。