A Perplexity lançou o Photon, um mecanismo de recuperação e classificação interno baseado em Rust que agora gerencia todo o tráfego de produção, substituindo um componente open-source anteriormente bifurcado. O novo sistema permite um modo de "Busca Rápida" na API de Busca da Perplexity, oferecendo latência significativamente menor para fluxos de trabalho agênticos.
- A latência p99 de produção caiu de aproximadamente 800 ms para 65 ms, com a Busca Rápida relatando 160 ms no p50 e 230 ms no p95.
- O Photon opera em cerca de 20% menos máquinas de serviço enquanto armazena 2,5x mais dados por documento em comparação com a configuração anterior.
- A Busca Rápida reduz os custos estimados de tarefas do agente em aproximadamente 68% (de US$ 187,60 para US$ 59,73 em 3.554 tarefas), mas diminui as pontuações de relevância em benchmarks internos.
- O mecanismo usa listas de postagem adaptativas, travessia orçada e leituras assíncronas em lote via io_uring para minimizar E/S de disco e falhas de cache.
- A Busca Rápida é cobrada a US$ 1 por 1.000 solicitações e é recomendada para loops diários de agentes, enquanto o preset padrão permanece melhor para consultas difíceis ou ambíguas.
O Photon permite que a Perplexity escale sua infraestrutura de busca com mais eficiência e oferece aos desenvolvedores uma opção econômica e de baixa latência para construir agentes de IA.