Perplexity a publié Photon, un moteur de récupération et de classement basé sur Rust développé en interne qui gère désormais tout le trafic de production, remplaçant un composant open-source précédemment forké. Le nouveau système permet un mode « Recherche rapide » dans l'API Perplexity Search, offrant une latence nettement inférieure pour les workflows agents.
- La latence p99 en production est passée d'environ 800 ms à 65 ms, avec la Recherche rapide signalant 160 ms à p50 et 230 ms à p95.
- Photon fonctionne sur environ 20 % moins de machines de service tout en stockant 2,5 fois plus de données par document par rapport à l'installation précédente.
- La Recherche rapide réduit les coûts estimés des tâches agents d'environ 68 % (de 187,60 $ à 59,73 $ sur 3 554 tâches) mais abaisse les scores de pertinence sur les benchmarks internes.
- Le moteur utilise des listes de publication adaptatives, un parcours budgété et des lectures asynchrones par lots via io_uring pour minimiser les E/S disque et les défauts de cache.
- La Recherche rapide est facturée 1 $ pour 1 000 requêtes et est recommandée pour les boucles agents quotidiennes, tandis que le préréglage par défaut reste meilleur pour les requêtes difficiles ou ambiguës.
Photon permet à Perplexity de mettre à l'échelle plus efficacement son infrastructure de recherche et fournit aux développeurs une option rentable et à faible latence pour construire des agents IA.