ThoughtDAGは、会話のエッジをモデルのコンテキストを制御するメカニズムとして扱うオープンソースのローカルファーストなワークスペースです。各質問応答のやり取りはノードとして機能し、アップストリームに接続されたノードのみが次のモデルリクエストにシリアライズされます。
- エッジを削除すると、可視化だけでなく実際の入力からもそのブランチが排除されます。
- 著者は3つの摂動ファミリーによるパイロットベンチマークを実行しています:無関係な妥当性のあるブランチ、古い前提条件、矛盾する証拠です。
- 比較は、クリーンな証拠(C0)、汚染されたコンテキスト(C1)、明示的なグラフの削除(C2)、自動要約(C3) across で固定設定を使用します。
- このツールはローカル推論用にOllamaをサポートし、任意のOpenAI互換エンドポイントに対応し、すべてのデータをローカルに保存します。
著者は、適切なモデル/コンテキストの組み合わせ、見落としがちな現実世界の汚染ケース、およびより小さなコンテキストウィンドウにおける明示的なプルーニングと検索の有用性について、ローカルモデルを実行しているユーザーからのフィードバックを求めています。