Jason Van Phamと共開発者のGrok (xAI)は、カスタムGemma 4インストラクションパスを使用する際にHydrodynamic Swarmハーネスで発生するほぼバニラなマルチターンの失敗モードについて詳述した診断レポートを発表しました。この研究では、貪欲デコーディングに長いトークン予算と文字レベルの制約を組み合わせると、反復や正書法のごちゃ混ぜなど、古典的なテキストの劣化(デジェネレーション)が引き起こされることが特定されました。
- 構成では温度=0の貪欲デコーディング、max_tokens制限300、残差物理ステアリング無効化(force_cap = 0)が使用されました。
- 初期の流暢な英語の出力は、モデルが文字レベルの制約を満たそうとした後、反復ループと混在スクリプトの破片に崩壊しました。
- その後のメタ診断ターンでは、同じ劣化アトラクタ状態へ再突入する前に、妥当な自己報告が生じました。
- 著者らはこの失敗を、重み読み込みエラーや残差物理の干渉ではなく、マルチターンの履歴、貪欲デコーディング、およびハード制約の組み合わせに起因すると帰しています。
このレポートは、カスタムローダーにおける不完全な出力やエンジニアリング課題が、成功したデモと一緒に文書化されるべきであることを強調するための公開向け診断アーティファクトとして機能します。