研究者らは、大型推論モデル（LRM）における明示的な多段階推論の高い計算コストを悪用する、推論時のサービス拒否（PI-DoS）攻撃を形式化しました。彼らは、被害者モデルを病的に長く、しばしば終了しない推論トレースへと駆り立てる短い自然言語プロンプトを生成する攻撃者を訓練する、強化学習ベースのフレームワークであるReasoningBombを発表します。

  • 7つのオープンソースモデルと3つの商用LRMにおいて、ReasoningBombは平均して18,759個の補完トークンと19,263個の推論トークンを引き起こします。
  • この手法は、補完トークンで上位のベースラインを35%、推論トークンで38%上回ります。
  • 良性クエリと比較して、平均して286.7倍の入力から出力への増幅比を実現します。
  • ReasoningBombは、入力ベースの検出で99.8%、出力ベースの検出で98.7%、厳格な二段階同時検出に対して98.4%の成功率で検出を回避します。

この研究は、拡張された推論能力がステルスなプロンプトエンジニアリングを通じて深刻なサービス拒否状態を引き起こすために悪用されうる、LRMにおける新たな脆弱性を浮き彫りにしています。