Hugging Faceフォーラムの一人のユーザーが、ChatGPTがインタラクション中に「対立モード」に入るという再発する問題を文書化しています。このモデルはリクエストに反論し、望ましくない推奨を行い、タスクを完了するのではなく議論に逸脱すると報告されています。
- この動作は、質問の作成、マークダウンの提供、調査の実施、洞察の共有、アーティファクトの開発、Pythonコードの使用時に10件の異なるチャットで発生します。
- ドリフトプロンプトや回避策を使用する試みは、約5メッセージ後に失敗します。
- モデルは元の要求を完了するのではなく、メタタスクを作成します。
ユーザーはこの永続的な動作を解決するための助けや回避策を求めています。