대규모 언어 모델을 실행할 수 있는 클라우드 플랫폼 Fireworks AI에서 침해 사고가 발생해 일부 고객 데이터가 노출됐다. 공격자들은 먼저 Fireworks의 클라우드 제공업체를 침입한 뒤, 결제 정보와 데이터 세트에 접근할 수 있는 개발 시스템으로 이동했다. 인기 메모 앱 Notion은 이번 침해로 해커들이 Notion AI의 ‘Insights’ 기능 대화 기록에 접근했다고 확인했다.
Notion은 전체 워크스페이스의 약 1%가 영향을 받았다고 밝혔다. 회사는 11월 3일 Fireworks와의 연결을 끊고 Fireworks 측에 저장된 데이터를 삭제했으며, 모든 통신을 중단했다. 이후 탈취된 대화 기록은 대부분 특정 사용자를 식별할 수 없는 자료였다는 사실을 확인했다. 사용자 이름이나 워크스페이스 ID, 도구 호출 결과는 포함되지 않았다.
탈취된 정보와 그 의미
Firewalls에 따르면 공격자들은 일부 Fireworks 고객의 결제 정보도 가져갔다. 회사는 공격자들이 금전적 이득을 노렸으며, 다른 사람들이 자체 컴퓨팅 비용을 내지 않고 AI 작업을 실행할 수 있도록 대규모 언어 모델 사용 토큰을 판매하려 한 것으로 보고 있다.
Notion의 조사 결과 유출된 데이터는 연결된 개인 식별 정보가 아니라 대화 기록 자체에 한정됐다. 하지만 기록에는 사용자가 Notion AI에 입력한 비밀번호나 API 키 같은 민감한 내용이 들어 있을 수 있다. Notion은 영향을 받은 사용자에게 데이터가 노출된 것으로 간주하고, 공유했을 가능성이 있는 인증 정보를 변경하라고 안내했다.
Fireworks AI의 보안 사고 전례
Fireworks AI에서 두 달 만에 발생한 두 번째 보안 사고다. 앞선 침해 사고는 10월에 알려졌다. 잇따른 사고는 많은 AI 서비스가 외부 클라우드 제공업체에 의존한다는 점과 한 업체의 침해가 고객사로 확산될 수 있다는 점을 보여준다.
왜 중요한가
Notion AI를 사용한다면 채팅에 입력한 내용이 공격자에게 노출됐을 수 있으므로, 그곳에 입력한 비밀번호나 API 키를 변경해야 할 수 있다. 이번 사고는 AI 인프라 제공업체 한 곳의 침해가 여러 하위 앱의 데이터 노출로 이어질 수 있음을 보여주며, 공급망 보안의 중요성을 부각한다.
