يبلغ مستخدم عن حدوث أخطاء HTTP 500 متقطعة على نقطة نهاية استدلال بمعالج مخصص لتضمين النصوص باستخدام Llama-3.1-8B، مع فشل حوالي 70% من الطلبات منذ 14 يوليو 2026.
تحدث الفشل عند طبقة البوابة أو الموجه قبل الوصول إلى الحاوية، حيث لا تظهر الطلبات الفاشلة في سجلات الحاوية بينما تظهر الناجحة. تستمر المشكلة عبر أنواع مختلفة من وحدات معالجة الرسومات (L40S و A100) ومظاهر نقطة نهاية جديدة، مما يستبعد الأسباب المتعلقة بالكود المحلي أو المحددة بالعتاد. يلاحظ المستخدم أن صفحة الحالة لا تظهر أي حادث ويسعى لتحديد ما إذا كانت هناك مشكلة معروفة في بوابة الاستدلال us-east-1.