Perplexity ha lanzado Photon, un motor de recuperación y clasificación basado en Rust desarrollado internamente que ahora gestiona todo el tráfico de producción, reemplazando un componente de código abierto previamente bifurcado. El nuevo sistema habilita un modo "Búsqueda rápida" en la API de búsqueda de Perplexity, ofreciendo una latencia significativamente menor para flujos de trabajo agénticos.
- La latencia p99 de producción bajó de aproximadamente 800 ms a 65 ms, con Búsqueda rápida reportando 160 ms en p50 y 230 ms en p95.
- Photon opera con aproximadamente un 20% menos de máquinas de servicio mientras almacena 2.5 veces más datos por documento en comparación con la configuración anterior.
- Búsqueda rápida reduce los costos estimados de tareas del agente en aproximadamente un 68% (de $187.60 a $59.73 en 3,554 tareas) pero disminuye las puntuaciones de relevancia en benchmarks internos.
- El motor utiliza listas de publicación adaptativas, recorrido presupuestado y lecturas asíncronas por lotes mediante io_uring para minimizar la E/S de disco y los fallos de caché.
- Búsqueda rápida tiene un precio de $1 por cada 1,000 solicitudes y se recomienda para bucles de agentes cotidianos, mientras que el preset predeterminado sigue siendo mejor para consultas difíciles o ambiguas.
Photon permite a Perplexity escalar su infraestructura de búsqueda de manera más eficiente y proporciona a los desarrolladores una opción rentable y de baja latencia para construir agentes de IA.