You.com запустила Inference Router — API, работающий по аналогии с OpenAI и поддерживающий 12 моделей с открытыми весами. Сервис гарантирует доступность на уровне 99,9%, не сохраняет данные после обработки запроса, а все серверы находятся в США. В API также встроен веб-поиск на стороне сервера; платы за использование платформы нет.
Почему это важно
Разработчики могут запускать популярные открытые модели с высокой надежностью и полной конфиденциальностью данных, не платя дополнительную комиссию за платформу.