A You.com lançou o Inference Router, uma API que funciona como a da OpenAI, mas executa 12 modelos de pesos abertos. O serviço oferece um acordo de nível de serviço com disponibilidade de 99,9%, não retém dados após as solicitações e mantém todos os servidores nos Estados Unidos. Também inclui busca na web no lado do servidor e não cobra taxa de plataforma.
Por que importa
Desenvolvedores podem executar modelos abertos populares com alta confiabilidade e privacidade total dos dados, sem pagar taxas adicionais de plataforma.
