Perplexity hat Photon eingeführt, eine selbst entwickelte Retrieval- und Ranking-Engine in Rust. Sie ersetzt eine abgewandelte Open-Source-Komponente und verarbeitet inzwischen den gesamten produktiven Suchverkehr von Perplexity. Photon ermöglicht außerdem den neuen Fast-Search-Modus in der Perplexity Search API, mit dem Entwickler schneller Antworten erhalten. Nach Angaben des Unternehmens sank die p99-Latenz – also die Zeit, die 99 Prozent der Anfragen benötigen – von etwa 800 ms auf 65 ms.
Warum es wichtig ist
Schnellere Suchantworten lassen KI-gestützte Antworten für Nutzer unmittelbarer wirken und können die Cloud-Kosten für Entwickler senken.
