NVIDIA menguraikan bagaimana co-design ekstrem dengan prosesor BlueField-nya dapat mengatasi tantangan infrastruktur yang ditimbulkan oleh beban kerja Agentic AI. Perusahaan tersebut berargumen bahwa seiring sistem agentic memicu rantai kompleks panggilan model, interaksi alat, dan pencarian data, pola infrastruktur tradisional tidak cukup untuk mempertahankan kinerja.
Agentic AI menggeser pola infrastruktur dengan mengharuskan sistem menangani beberapa operasi berurutan per permintaan, termasuk pencarian memori, pemeriksaan kebijakan, dan akses penyimpanan. Seiring semakin banyak agen berjalan secara bersamaan sambil membawa konteks antar langkah, sistem harus memindahkan, melindungi, mengambil, dan menggunakan kembali data dengan cepat untuk mempertahankan throughput.