Oossa

AWS добавила постоянные GPU-инстансы для мультиагентных ИИ-систем

В Amazon Bedrock AgentCore появились Runtime Instances: сессии до 14 дней, поддержка GPU и общее хранилище для совместных ИИ-конвейеров.

ЗаметкаOossaОпубликовано Oossa: 1 мин чтения

Amazon Web Services объявила, что в сервисе Bedrock AgentCore появились Runtime Instances — управляемые инстансы EC2 для длительных мультиагентных ИИ-процессов. В отличие от бессерверных MicroVM, сессии в которых ограничены 8 часами, Runtime Instances поддерживают сессии длительностью до 14 дней, дают доступ к GPU и позволяют использовать постоянные тома EBS. Благодаря этому несколько агентов могут работать на одном GPU-инстансе и использовать общую файловую систему — например, для конвейера по созданию музыки с участием трёх агентов.

Новый вариант вычислительных ресурсов использует те же API AgentCore, но добавляет постоянное хранение данных в течение нескольких дней, совместное размещение агентов, а также возможность запускать на одном инстансе образы контейнеров или код из S3.

Почему это важно

Разработчики смогут создавать более сложные совместные ИИ-системы, которые работают несколько дней и используют GPU, — без необходимости самостоятельно управлять серверами.

Эта статья была полезной?
Поделиться

Читайте также

Oossa · Рассылка

Неделя ИИ — простыми словами

Каждый понедельник: главное за неделю понятным языком. Бесплатно, без спама.