Компания Claroc, специализирующаяся на безопасности, сообщает, что обнаружила 35 578 приложений, созданных с помощью Grok, которые любой мог открыть без входа в аккаунт. Это 94,7 процента из 37 571 приложения, проверенного компанией и остававшегося доступным онлайн. В некоторых приложениях содержались данные пациентов, пароли в открытом виде и конфиденциальные деловые документы, в том числе материалы SpaceXSI, разработчика Grok.
В режиме Build Grok пользователи описывают приложение в чате, а помощник пишет для него код. Приложение становится общедоступным, когда создатель публикует его на grok.me. В платном аккаунте, которым пользовалась Claroc, в окне публикации по умолчанию был выбран вариант «Любой, у кого есть ссылка». Кроме того, названия приложений можно было найти в общедоступных базах пассивного DNS — они фиксируют доменные имена после посещения сайтов, отмечает компания.
Какие данные оказались доступны?
По оценке Claroc, личные данные содержались в 650–800 приложениях. Среди подтверждённых примеров — сводка отделения интенсивной терапии с результатами анализов пациента, список из более чем 3 500 сотрудников больничной группы и график смен пожарной части. В исходном коде одного приложения для учёта рабочего времени хранились 18 учётных записей с паролями в открытом виде. Claroc сообщает, что примерно в одном из десяти доступных приложений содержалась конфиденциальная, внутренняя или личная информация, а примерно в 2 процентах — особенно чувствительные данные.
Компания также обнаружила 24 доступных приложения, созданных сотрудниками SpaceXSI и X. Среди них были план адаптации новых сотрудников с адресами внутренних систем и каналов чата, карта продаж с перечнем 594 стратегических клиентов и конфиденциальные рекламные предложения. Claroc сообщает, что нашла уязвимые приложения ещё в 30 организациях, включая шесть компаний из списка Fortune 500, но не раскрывает их названия.
В двух собственных тестовых приложениях Claroc выявила проблемы помимо открытого доступа. Одно подключалось к базе данных, в которую анонимные посетители могли добавлять контакты. В другом приложение с кодом, сгенерированным Grok, добавляло в команду любого вошедшего в аккаунт пользователя, не проверяя, имеет ли он на это право. В результате внешний пользователь мог просматривать, редактировать и удалять записи. Claroc уточняет, что проверяла запись и удаление данных только в собственных приложениях.
Что будет дальше?
SpaceXSI заявила, что приложения остаются закрытыми, пока их создатели не поделятся ими, публикация требует нескольких шагов, а в аккаунтах сотрудников по умолчанию выбрана настройка «Только вы». Claroc отмечает, что это не предотвращает утечку, если на последнем экране публикации по-прежнему заранее выбран доступ для всех, у кого есть ссылка. Компания рекомендует по умолчанию ограничить доступ и предупреждать пользователей, если у приложения есть база данных, но нет входа в аккаунт.
SpaceXSI отключила 24 приложения своих сотрудников, однако, по словам Claroc, другие приложения с открытым доступом по-прежнему доступны. Поскольку компания не обязалась связаться с их владельцами, Claroc уведомляет их напрямую. Компания продаёт средства защиты для приложений, созданных с помощью ИИ, — это стоит учитывать при оценке её выводов. Этот случай произошёл на фоне более ранних проблем с конфиденциальностью Grok и напоминает о проблемах с функциями публикации, о которых Claroc сообщала в Meta и Anthropic.
Почему это важно
Публикуя приложение, созданное с помощью Grok, пользователь может раскрыть его содержимое, даже если рассчитывал ограничить доступ. В некоторых приложениях могут находиться личные или деловые данные. SpaceXSI удалила приложения своих сотрудников, но, по словам Claroc, другие приложения с открытым доступом по-прежнему доступны. Неясно, уведомлены ли их владельцы и изменятся ли настройки доступа.
