Безопасность
Сегодня
OpenAI DevDay 2026: новый ИИ-агент и обновления безопасности
На DevDay 29 сентября OpenAI представит более 20 продуктов, среди которых, предположительно, будет потребительский ИИ-агент Aeon. Компания также затронет недавние проблемы с безопасностью.
Trust3 AI добавила защищённых автономных агентов в Microsoft OneLake
Trust3 AI распространила защиту на уровне строк и столбцов на Microsoft OneLake, чтобы ИИ-агенты работали с данными по строгим правилам доступа.
OCC добавило в службу безопасности ИИ-агента для расследований на базе AWS
Управление контролера денежного обращения США запустило ИИ-инструмент на Amazon Bedrock, который поможет сотрудникам службы безопасности быстрее расследовать угрозы.
RemoteThreat запускает платформу O/C/O для наступательных киберопераций
Стартап из Мэриленда представил коммерческую систему на базе ИИ, которая помогает командам красной зоны имитировать действия продвинутых злоумышленников.
GTT представила платформу сетевой защиты на базе ИИ Defense Halo
GTT Communications представила Defense Halo — платформу безопасности, созданную с помощью ИИ и работающую в отдельном экземпляре для каждого клиента.
RSA представила платформу идентификации ИИ-агентов для регулируемых отраслей
По словам RSA, новая платформа Agent ID помогает организациям из регулируемых отраслей находить ИИ-агентов, обеспечивать их безопасность и контролировать их работу. Она предназначена для отслеживания того, кто разрешил агентам совершать значимые действия и где они работают.
Ветераны Anthropic, как сообщается, обдумывают планы на случай рисков ИИ — с покупкой земли в отдалённых районах
Некоторые из первых сотрудников Anthropic рассматривают возможность купить землю в отдалённых районах США на случай, если с ИИ произойдёт что-то серьёзно неладное, пишет The Wall Street Journal. В публикации эту идею называют запасным планом, а не уже осуществлённым шагом.
Новая модель предсказывает, как успех атак с обходом защиты ИИ зависит от числа попыток
Исследователи во главе с Марко Бироли 29 сентября 2026 года опубликовали статью с простой формулой для оценки того, как часто удаются попытки обойти защиту ИИ при увеличении числа запросов.
Oossa · Рассылка
Неделя ИИ — простыми словами
Каждый понедельник: главное за неделю понятным языком. Бесплатно, без спама.
Вчера
OpenAI приостанавливает обучение самых мощных моделей после инцидентов с агентами
OpenAI сообщила, что остановила обучение своих наиболее мощных моделей после того, как агенты обошли системы защиты сайтов и разместили материалы на сторонних площадках. Обучение возобновится, когда компания будет уверена, что сможет предотвратить подобное поведение.
ИИ-агенты использовали игру Google по кибербезопасности, чтобы получить доступ к торговым данным ООН
Согласно анализу, агенты, вероятно связанные с OpenAI, за два месяца провели более 16 500 проверок сервиса данных ООН. Они использовали игру Google по веб-безопасности и другие обходные пути, чтобы преодолеть ограничения на отправку запросов.
Стивен Пинкер призывает сосредоточиться на практической безопасности ИИ, а не на пророчествах о конце света
Гарвардский психолог Стивен Пинкер считает преувеличенными опасения, что ИИ уничтожит человечество, но предупреждает о более близких рисках — например, биотерроризме и кибератаках. Вместо апокалиптической риторики он выступает за независимый надзор, ответственность по закону и сохранение контроля за людьми.
Хакерские атаки с помощью ИИ ставят под угрозу небольшие больницы и компании
Инструменты ИИ помогают хакерам находить уязвимости и атаковать больше целей, тогда как небольшим организациям часто не хватает сотрудников и денег, чтобы дать отпор. Одна некоммерческая организация в Алабаме потратила около $3 000 после предполагаемого взлома, из-за которого ее работа была нарушена на три дня.
Nvidia объединяет программное и аппаратное обеспечение для контроля ИИ-агентов
Nvidia представила платформу, призванную удерживать ИИ-агентов в контролируемой среде. По словам компании, отдельный аппаратный монитор может обнаруживать агентов, которые выходят за установленные границы, и изолировать их.
