Hugging Faceフォーラムのユーザーは、ChatGPTが「反対モード」を発揮し、入力を挑戦し、不要な推奨を提供し、タスクを議論にシフトさせるという再発する問題を文書化しています。ユーザーは、ドリフトプロンプトなどの標準的な回避策が約5メッセージの間しか機能せず、その後モデルが元のタスクから逸脱するため、効果的ではないと指摘しています。
- ChatGPTは研究、コード開発、またはアーティファクト作成中に反対モードに切り替わる。
- モデルは理由もなく議論を均衡させ、望ましくない販売のような推奨を提供する。
- ドリフトプロンプトは5メッセージ後に失敗し、AIが要求されていないメタタスクを作成させる。
この投稿は、モデルの動作がタスク完了を妨げる持続的なユーザビリティの問題を浮き彫りにし、このバイアスを解消する方法に関するコミュニティの助言を求めています。