Erros 500 intermitentes no Endpoint de Inferência - requisições não chegam ao contêiner

Um usuário relata experimentar erros HTTP 500 intermitentes em um Endpoint de Inferência com manipulador personalizado para embeddings de texto usando Llama-3.1-8B, com aproximadamente 70% das requisições falhando desde 14 de julho de 2026.

As falhas ocorrem na camada de gateway ou roteador antes de alcançar o contêiner, pois as requisições falhadas não aparecem nos logs do contêiner enquanto as bem-sucedidas aparecem. O problema persiste em diferentes tipos de GPU (L40S e A100) e novas instâncias do endpoint, descartando causas específicas do código local ou do hardware. O usuário observa que a página de status não mostra nenhum incidente e busca determinar se há um problema conhecido com o gateway de inferência em us-east-1.