Fireworks AI — облачная платформа, позволяющая разработчикам запускать большие языковые модели, — подверглась взлому, в результате которого были раскрыты данные некоторых клиентов. Сначала злоумышленники проникли в облачную инфраструктуру провайдера Fireworks, а затем добрались до системы разработки, где получили доступ к платёжным данным и наборам данных. Популярное приложение для заметок Notion подтвердило, что взлом позволил хакерам получить переписки из функции Notion AI «Insights».
По данным Notion, инцидент затронул около 1% рабочих пространств. 3 ноября компания прекратила работу с Fireworks, удалила данные, хранившиеся на стороне Fireworks, и остановила все взаимодействие с сервисом. Позднее выяснилось, что украденные переписки в основном нельзя было связать с конкретными пользователями: в них не было имён пользователей, идентификаторов рабочих пространств или результатов вызова инструментов.
Что похитили и почему это важно
Как сообщает Firewalls, злоумышленники также похитили платёжную информацию некоторых клиентов Fireworks. Компания полагает, что мотивом была финансовая выгода: вероятно, хакеры намерены продавать токены доступа к большим языковым моделям, чтобы другие могли запускать задачи ИИ, не оплачивая собственные вычислительные ресурсы.
Расследование Notion показало, что утечка затронула только сами журналы переписки, без связанных с ними персональных идентификаторов. Однако в сообщениях мог содержаться чувствительный текст, который пользователи вводили в Notion AI, например пароли или API-ключи. Notion посоветовала затронутым пользователям считать эти данные раскрытыми и сменить учётные данные, которые могли быть переданы в чат.
Другие инциденты с Fireworks AI
Это уже второй инцидент безопасности в Fireworks AI за два месяца: о предыдущем взломе сообщалось в октябре. Повторяющиеся проблемы показывают, насколько многие ИИ-сервисы зависят от сторонних облачных провайдеров и как взлом одного поставщика может затронуть его клиентов.
Почему это важно
Если вы пользуетесь Notion AI, злоумышленники могли увидеть любой текст, который вы вводили в чат. Поэтому, возможно, стоит сменить пароли или API-ключи, которыми вы делились там. Этот инцидент также показывает, что взлом одного поставщика ИИ-инфраструктуры может раскрыть данные из множества связанных приложений и подчёркивает важность безопасности цепочки поставок.
