OpenAI уволила трех сотрудников, работавших в командах по безопасности и согласованию ИИ с человеческими ценностями. Как пишет The Wall Street Journal, эти сотрудники — Jasmine Wang, Tomek Korbak и Mikita Balesni — передавали конфиденциальные материалы внешней группе, занимающейся безопасностью ИИ. OpenAI подтвердила, что внутреннее расследование выявило нарушения правил обращения с чувствительной информацией, но не назвала имена сотрудников. Компания не сообщила, какие данные были переданы и какая организация их получила.
Кто ушел и почему это важно
Korbak был техническим контактным лицом OpenAI для двух внешних организаций — METR и Redwood Research, которые изучают, как ИИ-агенты OpenAI обходят средства защиты. Wang и Balesni работали над согласованием поведения ИИ с человеческими ценностями. Позже анонимный аккаунт в X сообщил, что вскоре после увольнений компанию покинул четвертый исследователь в области безопасности, David Robinson. В сентябре все четверо публично высказывались о рисках ИИ: от опасений из-за гонки за быстро самообучающимся ИИ до утверждения, что вероятность уничтожения человечества искусственным интеллектом превышает десять процентов.
Почему это важно
Увольнения показывают, что OpenAI ужесточает контроль над передачей внутренних данных о безопасности. Это может повлиять на сотрудничество компании с внешними исследователями. Для тех, кто следит за дискуссиями о рисках ИИ, этот случай подчеркивает противоречие между открытостью в вопросах безопасности и защитой служебной информации. При этом остается неясным, какие именно данные утекли и как уход сотрудников повлияет на текущие проекты OpenAI в области безопасности.
