Cerebras объявила, что её ИИ-чип с архитектурой на основе целой пластины, способный выполнять инференс до 15 раз быстрее обычных графических процессоров, теперь доступен через крупные облачные маркетплейсы и портал самообслуживания. Компания также разместила десятки популярных моделей с открытым исходным кодом и добавила интеграции с такими инструментами, как LangChain, Docker и VS Code, чтобы разработчики могли обращаться к быстрому сервису через привычные API. Компания стремится превратить высокую скорость в практическую основу для повседневных ИИ-приложений.
Почему это важно
Более простой доступ к инференсу со сверхнизкой задержкой позволит большему числу продуктов мгновенно отвечать пользователям, улучшая их опыт и открывая возможности для новых ИИ-функций, работающих в реальном времени.
