NVIDIA describe cómo el co-diseño extremo con sus procesadores BlueField puede abordar los desafíos de infraestructura planteados por las cargas de trabajo de Agentic AI. La compañía argumenta que a medida que los sistemas agénticos desencadenan cadenas complejas de llamadas a modelos, interacciones con herramientas y búsquedas de datos, los patrones de infraestructura tradicionales son insuficientes para mantener el rendimiento.
Agentic AI cambia el patrón de infraestructura al requerir que los sistemas manejen múltiples operaciones secuenciales por solicitud, incluidas búsquedas en memoria, verificaciones de políticas y accesos a almacenamiento. A medida que más agentes se ejecutan concurrentemente mientras transportan contexto entre pasos, el sistema debe mover, proteger, recuperar y reutilizar datos rápidamente para mantener el rendimiento.