Fireworks AI, une plateforme cloud qui permet aux développeurs d’exécuter de grands modèles de langage, a subi une fuite de données touchant certains clients. Les attaquants ont d’abord pénétré chez le fournisseur cloud de Fireworks, puis ont accédé à un système de développement où ils ont pu consulter des données de facturation et des jeux de données. Notion, la célèbre application de prise de notes, a confirmé que l’attaque avait permis aux pirates d’accéder aux transcriptions des conversations de la fonctionnalité « Insights » de Notion AI.
Notion a indiqué que la fuite avait touché environ 1 % de ses espaces de travail. L’entreprise a coupé sa connexion avec Fireworks le 3 novembre, supprimé les données stockées chez le fournisseur et cessé toute communication avec lui. Elle a découvert par la suite que les transcriptions dérobées étaient pour la plupart impossibles à attribuer à un utilisateur : elles ne contenaient ni noms d’utilisateur, ni identifiants d’espace de travail, ni résultats d’appels d’outils.
Données dérobées et risques associés
Selon Firewalls, les attaquants ont également dérobé des informations de facturation concernant certains clients de Fireworks. L’entreprise estime que leur motivation est financière : ils chercheraient à vendre des jetons d’accès à de grands modèles de langage, afin que d’autres puissent exécuter des charges de travail d’IA sans payer leur propre puissance de calcul.
L’enquête de Notion a montré que les données divulguées se limitaient aux journaux de conversation eux-mêmes, sans identifiants personnels associés. Ces journaux pouvaient toutefois contenir des informations sensibles saisies par les utilisateurs dans Notion AI, comme des mots de passe ou des clés API. Notion a conseillé aux utilisateurs concernés de considérer ces données comme exposées et de renouveler tout identifiant qu’ils auraient pu partager.
Les précédents incidents chez Fireworks AI
Il s’agit du deuxième incident de sécurité chez Fireworks AI en deux mois ; une précédente fuite avait été signalée en octobre. Ces problèmes à répétition mettent en évidence la dépendance de nombreux services d’IA à des fournisseurs cloud tiers et le fait qu’une compromission chez un prestataire peut se répercuter sur ses clients.
Pourquoi c'est important
Si vous utilisez Notion AI, les pirates ont peut-être pu voir les textes que vous avez saisis dans le chat. Vous devrez peut-être donc changer les mots de passe ou les clés API que vous y avez entrés. Cet incident montre aussi qu’une faille chez un fournisseur d’infrastructure d’IA peut exposer les données de nombreuses applications clientes, ce qui souligne l’importance de la sécurité de la chaîne d’approvisionnement.
