あるユーザーは、Llama-3.1-8Bを使用したテキスト埋め込みのカスタムハンドラー推論エンドポイントで、2026年7月14日以降約70%のリクエストが失敗する断続的なHTTP 500エラーが発生していると報告しています。

失敗したリクエストはコンテナログに表示されず、成功したものは表示されることから、失敗はコンテナに到達する前のゲートウェイまたはルーター層で発生していることがわかります。この問題は異なるGPUタイプ（L40SおよびA100）や新しいエンドポイントインスタンスでも継続しており、ローカルコードやハードウェア固有の原因が除外されます。 ユーザーはステータスページにインシデントが表示されていないことを指摘し、us-east-1推論ゲートウェイに既知の問題があるかどうかを特定したいと考えています。