You.com lanzó Inference Router, una API similar a la de OpenAI que ejecuta 12 modelos de pesos abiertos. El servicio ofrece un acuerdo de nivel de servicio que garantiza un 99,9 % de disponibilidad, no conserva datos una vez atendida una solicitud y aloja todos sus servidores en Estados Unidos. También incluye búsqueda web del lado del servidor y no cobra una tarifa de plataforma.
Por qué importa
Los desarrolladores pueden ejecutar modelos abiertos populares con alta fiabilidad y plena privacidad de los datos, sin pagar tarifas de plataforma adicionales.