Perplexity 发布了 Photon，这是一个基于 Rust 的内部检索和排序引擎，现已处理所有生产流量，取代了此前分叉的开源组件。新系统使 Perplexity Search API 中启用了“快速搜索”模式，为智能体工作流提供显著更低的延迟。

  • 生产环境的 p99 延迟从约 800 毫秒降至 65 毫秒，快速搜索在 p50 时报告为 160 毫秒，在 p95 时为 230 毫秒。
  • Photon 在比之前配置少约 20% 的推理机器上运行，且每个文档存储的数据量是之前的 2.5 倍。
  • 快速搜索将估计的智能体任务成本降低了约 68%（在 3,554 个任务中从 187.60 美元降至 59.73 美元），但降低了内部基准测试中的相关性得分。
  • 该引擎使用自适应倒排列表、预算遍历以及通过 io_uring 进行的批量异步读取，以最小化磁盘 I/O 和缓存未命中。
  • 快速搜索的价格为每 1,000 次请求 1 美元，推荐用于日常智能体循环，而默认预设对于困难或模糊的查询仍然更好。

Photon 使 Perplexity 能够更高效地扩展其搜索基础设施，并为开发人员提供构建 AI 智能体的具有成本效益和低延迟的选择。