Perplexity telah merilis Photon, mesin pengambilan dan pemeringkatan berbasis Rust dalam rumah yang kini menangani semua lalu lintas produksi, menggantikan komponen sumber terbuka yang sebelumnya di-fork. Sistem baru ini mengaktifkan mode "Pencarian Cepat" di Perplexity Search API, menawarkan latensi yang jauh lebih rendah untuk alur kerja agentic.
- Latensi p99 produksi turun dari sekitar 800 ms menjadi 65 ms, dengan Pencarian Cepat melaporkan 160 ms pada p50 dan 230 ms pada p95.
- Photon beroperasi dengan sekitar 20% mesin layanan lebih sedikit sambil menyimpan data 2,5x lebih banyak per dokumen dibandingkan pengaturan sebelumnya.
- Pencarian Cepat mengurangi perkiraan biaya tugas agen sebesar sekitar 68% (dari $187,60 menjadi $59,73 di seluruh 3.554 tugas) tetapi menurunkan skor relevansi pada benchmark internal.
- Mesin ini menggunakan daftar posting adaptif, traversal beranggaran, dan bacaan asinkron batched melalui io_uring untuk meminimalkan I/O disk dan cache miss.
- Pencarian Cepat dihargai $1 per 1.000 permintaan dan direkomendasikan untuk loop agen sehari-hari, sementara preset default tetap lebih baik untuk pertanyaan yang sulit atau ambigu.
Photon memungkinkan Perplexity menskalakan infrastruktur pencariannya secara lebih efisien dan memberikan pengembang opsi hemat biaya dengan latensi rendah untuk membangun agen AI.