OpenAI menerbitkan detail benchmark untuk chip inferensi kustomnya, Jalapeño, dengan klaim efisiensi dan latensi yang lebih unggul dibandingkan sistem NVIDIA GB200/GB300. Secara bersamaan, Perplexity meluncurkan Komputer Portabel pada perangkat keras NVIDIA DGX Spark, memungkinkan orkestrasi agen sepenuhnya secara lokal tanpa ketergantungan pada cloud.

  • Jalapeño milik OpenAI menghasilkan 1,5–1,9× lebih banyak pekerjaan per watt dan latensi ujung-ke-ujung 1,7–3,6× lebih rendah dibandingkan sistem NVIDIA dalam pengujian.
  • Chip ini memiliki rating daya 700W tetapi tetap berada di bawah 550W selama pengujian, dengan rencana penyebaran pada akhir tahun.
  • Komputer Portabel milik Perplexity menjalankan LLM orkestrator, LLM subagen, dan harness agen secara lokal menggunakan PPLX 27B atau Qwen 3.8 27B.
  • AutoSaddler yang dipimpin Microsoft melaporkan peningkatan skor +9,0 pada GAIA2 dan +10,0 pada Terminal-Bench 2.0 dengan memperlakukan harness agen sebagai kode.
  • SWE Refactor Bench menemukan tingkat kelangsungan hidup hanya 5,4% untuk tugas migrasi seluruh repositori di 520 kali percobaan.

Perkembangan ini menyoroti pergeseran menuju perangkat keras inferensi khusus dan arsitektur agen yang mengutamakan lokal, yang mengurangi ketergantungan pada infrastruktur cloud.