Perplexity выпустила Photon, собственный движок поиска и ранжирования на базе Rust, который теперь обрабатывает весь производственный трафик, заменив ранее форкнутый компонент с открытым исходным кодом. Новая система обеспечивает режим «Быстрый поиск» в Perplexity Search API, предлагая значительно меньшую задержку для агентных рабочих процессов.
- Производственная p99-задержка снизилась примерно с 800 мс до 65 мс, при этом Fast Search показывает 160 мс на p50 и 230 мс на p95.
- Photon работает примерно на 20% меньше серверов, храня в 2.5 раза больше данных на документ по сравнению с предыдущей конфигурацией.
- Fast Search снижает оценочную стоимость задач агентов примерно на 68% (с $187.60 до $59.73 на 3,554 задачах), но снижает показатели релевантности на внутренних бенчмарках.
- Движок использует адаптивные списки постингов, ограниченное обходное сканирование и пакетные асинхронные чтения через io_uring для минимизации дискового ввода-вывода и промахов кэша.
- Fast Search стоит $1 за 1,000 запросов и рекомендуется для повседневных циклов агентов, тогда как предустановка по умолчанию лучше подходит для сложных или неоднозначных запросов.
Photon позволяет Perplexity более эффективно масштабировать свою поисковую инфраструктуру и предоставляет разработчикам экономичный вариант с низкой задержкой для создания AI-агентов.