A Perplexity lançou o Photon, um mecanismo de recuperação e classificação de resultados desenvolvido em Rust. Ele substitui um componente de código aberto derivado de outro projeto e agora processa todo o tráfego de busca em produção da Perplexity. O Photon também alimenta o novo modo Fast Search da API Perplexity Search, que oferece respostas mais rápidas aos desenvolvedores. Segundo a empresa, a latência p99 — o tempo que 99% das solicitações levam para ser atendidas — caiu de cerca de 800 ms para 65 ms.
Por que importa
Respostas de busca mais rápidas fazem com que as respostas geradas por IA pareçam mais imediatas para os usuários e podem reduzir os custos de nuvem para desenvolvedores.
