Perplexity запустила Photon — разработанный на Rust движок для поиска и ранжирования. Он заменил форк одного из компонентов с открытым исходным кодом и теперь обрабатывает весь поисковый трафик Perplexity в рабочей среде. Photon также лежит в основе нового режима Fast Search в Perplexity Search API, который позволяет разработчикам быстрее получать ответы. По словам компании, p99-задержка — время обработки 99% запросов — снизилась примерно с 800 до 65 мс.
Почему это важно
Более быстрый поиск делает ответы на базе ИИ оперативнее для пользователей и может снизить расходы разработчиков на облачные сервисы.