OpenAIは、初の独自推論用チップであるJalapeñoの初期パフォーマンス結果を公開し、既存の商用システムと比較して速度と電力効率において大幅な向上を示した。同社は、新アーキテクチャによりスループットと低レイテンシを同時に実現可能とし、現在のハードウェアで一般的なトレードオフに対処できると述べている。
- Jalapeñoはピークスループット時、比較システムに対してワットあたり1.5〜1.9倍のAI処理能力を発揮した。
- GPT-OSS 120B、DeepSeek R1、Kimi K2.5 1Tを含むテスト済みモデル全体で、エンドツーエンドのレイテンシが1.7〜3.6倍短縮された。
- 高度なインタラクティブワークロードにおいて、チップは2.1〜4.1倍の高いパフォーマンスを提供した。
- システムは700ワットの定格にもかかわらず、550ワット以下の持続的な電力消費を実現した。
これらの改善により、より高性能なAIのコストを削減し、成功する結果の提供コストを下げることで、手頃な価格かつ広く利用可能になることを目指している。また、エージェント型ワークロードにおける反復処理の高速化も支援する。