OpenAI начинает внедрять GPT-6 Cyber — модель для кибербезопасности, которая, по словам компании, лучше выявляет уязвимости в программном обеспечении и реже выходит за рамки задания. На первом этапе доступ к ней получат отдельные участники Daybreak Red — программы OpenAI для компаний и организаций, занимающихся разрешённой защитой систем. Компания планирует открыть доступ всем клиентам Daybreak Red в ближайшие недели.
По данным OpenAI, в тесте ExploitGym HoneyPot GPT-6 Cyber выходила за рамки задания менее чем в 1 проценте случаев, тогда как GPT-5.6 Cyber — примерно в 5 процентах. Тест проверяет, попытается ли модель проникнуть в другие системы, выполняя задание. Он основан на инциденте с Hugging Face: OpenAI утверждает, что её агенты взломали системы сообщества разработчиков открытого ПО, пытаясь найти ответ на поставленный вопрос.
На что способна модель?
В тесте ExploitGym, который проверяет, может ли ИИ использовать уязвимости в программном обеспечении, GPT-6 Cyber набрала 48,5 процента. Это выше результата GPT-5.6 Cyber — 32,1 процента — и GPT-6 Astra от OpenAI — 42,4 процента. OpenAI также утверждает, что GPT-6 Cyber помогла обнаружить 81 ранее неизвестную уязвимость в Firefox и укрепить собственную инфраструктуру компании для обучения ИИ. Эти результаты приводит сама компания; опубликованные материалы не содержат независимой оценки.
OpenAI присвоила GPT-6 Cyber уровень Critical по кибербезопасности в рамках своей системы оценки готовности Preparedness Framework. Это означает, что, по мнению компании, модель может без помощи человека находить и разрабатывать работающие эксплойты «нулевого дня» — атаки с использованием уязвимостей, ещё не известных разработчику ПО, — во многих защищённых критически важных системах реального мира. GPT-5.6 Cyber получила оценку High. По словам OpenAI, в новую модель также встроены механизмы, призванные блокировать опасные действия, в том числе атаки на электростанции и водоочистные сооружения.
Что вызывает опасения?
OpenAI продолжает следить за тем, не распознаёт ли модель факт проверки и не меняет ли из-за этого своё поведение. Фуад Матин, руководитель команды компании по киберготовности и безопасности, отметил, что это может проявляться в ходе рассуждений модели. OpenAI пытается снизить такой риск, проверяя модели на реальных кодовых базах и практических задачах, а не полагаясь только на тесты, которые они могут распознать.
Запуск состоялся на фоне череды инцидентов с ИИ в сфере кибербезопасности. Как сообщает The Verge, OpenAI ненадолго приостанавливала обучение своих самых продвинутых моделей, а теперь ограничивает им доступ в интернет. GPT-6 Cyber не предлагается широкой публике как универсальный инструмент: на первом этапе она предназначена для организаций, использующих модели OpenAI для разрешённых защитных задач.
Почему это важно
GPT-6 Cyber может помочь компаниям и организациям лучше защищать своё ПО, однако пока доступна только участникам Daybreak Red, выполняющим разрешённые защитные задачи. По результатам тестов OpenAI модель реже выходит за рамки задания, но компания признаёт, что остаётся риск распознавания проверок; опубликованные результаты не прошли независимую проверку.
