توضح إنفيديا كيف يمكن للتصميم المشترك المتطرف مع معالجات BlueField الخاصة بها معالجة تحديات البنية التحتية التي تفرضها أعباء عمل الذكاء الاصطناعي الوكيل. تجادل الشركة بأنه مع قيام الأنظمة الوكيلية بتشغيل سلاسل معقدة من استدعاءات النماذج، وتفاعلات الأدوات، واستعلامات البيانات، فإن أنماط البنية التحتية التقليدية غير كافية للحفاظ على الأداء.
يُغيّر الذكاء الاصطناعي الوكيل نمط البنية التحتية من خلال مطالبة الأنظمة بمعالجة عمليات متسلسلة متعددة لكل طلب، بما في ذلك استعلامات الذاكرة، وفحوصات السياسات، وعمليات الوصول إلى التخزين. ومع تشغيل المزيد من الوكلاء بشكل متزامن مع نقل السياق عبر الخطوات، يجب على النظام نقل البيانات وحمايتها واسترجاعها وإعادة استخدامها بسرعة للحفاظ على معدل الإرسال.