Hugging Faceは、データセット処理パイプライン内のコード実行パスを悪用する自律型エージェントフレームワークに起因する、内部データセットと認証情報への不正アクセスを発見しました。この侵入により、攻撃者は権限昇格、クラウド認証情報の窃取、内部クラスター間での横移動を可能にしました。

  • 攻撃者は悪意のあるデータセットを使用してリモートコードローダーとテンプレートインジェクションを悪用し、処理ワーカー上でコードを実行しました。
  • このキャンペーンは、自律型セキュリティ調査ハーネスを使用し、自己移行するコマンド・アンド・コントロール機能を持つ短期間のサンドボックス間で数千のアクションを実行しました。
  • Hugging Faceは根本的な脆弱性を修正し、侵害されたノードを再構築し、影響を受けた認証情報をローテーションしました。

フォレンジック分析には、悪意のあるペイロードの送信をブロックした商用APIの安全ガードレールを回避するために内部インフラストラクチャ上でGLM 5.2が使用されました。

この事案は、セキュリティ調査中にガードレールによるロックアウトを避けるため、防御側が自前のインフラストラクチャに能力のあるモデルを準備しておく必要性を示しています。