OpenAIは、独自開発の推論チップ「Jalapeño」のベンチマーク詳細を公開し、NVIDIA GB200/GB300システムと比較して優れた効率性とレイテンシを実現していると主張した。同時に、PerplexityはNVIDIA DGX Sparkハードウェア上でPortable Computerを発表し、クラウドへの依存なしで完全なローカルエージェントオーケストレーションを可能にした。

  • テストにおいて、OpenAIのJalapeñoはワットあたりの処理量が1.5–1.9倍多く、エンドツーエンドのレイテンシがNVIDIAシステムより1.7–3.6倍低かった。
  • このチップの定格消費電力は700Wだが、テスト中は550W未満に抑えられ、年内の展開が計画されている。
  • PerplexityのPortable Computerは、PPLX 27BまたはQwen 3.8 27Bを使用して、オーケストレーターLLM、サブエージェントLLM、およびエージェントハーネスをローカルで実行する。
  • Microsoft主導のAutoSaddlerは、エージェントハーネスをコードとして扱うことで、GAIA2で+9.0、Terminal-Bench 2.0で+10.0の向上をもたらしたと報告している。
  • SWE Refactor Benchでは、520回のランにおいて、リポジトリ全体のマイグレーションタスクの生存率がわずか5.4%にとどまったことが判明した。

これらの進展は、クラウドインフラへの依存を減らし、専用推論ハードウェアとローカルファーストのエージェントアーキテクチャへと移行する動きを浮き彫りにしている。