Fireworks AI, een cloudplatform waarop ontwikkelaars grote taalmodellen kunnen draaien, kreeg te maken met een datalek waarbij klantgegevens werden blootgesteld. De aanvallers drongen eerst binnen bij de cloudprovider van Fireworks en wisten vervolgens toegang te krijgen tot een ontwikkelsysteem met factuurgegevens en datasets. Notion, de populaire notitie-app, bevestigde dat de hackers door het lek chattranscripten konden inzien van de functie ‘Insights’ van Notion AI.
Volgens Notion is ongeveer 1% van de werkruimten getroffen. Het bedrijf verbrak op 3 november de verbinding met Fireworks, verwijderde de gegevens die daar waren opgeslagen en staakte alle communicatie. Later bleek dat de gestolen transcripten grotendeels niet naar gebruikers te herleiden waren: ze bevatten geen gebruikersnamen, ID’s van werkruimten of resultaten van toolaanroepen.
Wat is er gestolen en waarom is dat belangrijk?
Volgens Firewalls hebben de aanvallers ook factuurgegevens van sommige Fireworks-klanten buitgemaakt. Het bedrijf denkt dat de aanval financieel gemotiveerd was: de aanvallers zouden toegangstokens voor grote taalmodellen willen verkopen, zodat anderen AI-taken kunnen uitvoeren zonder zelf voor rekenkracht te betalen.
Uit het onderzoek van Notion bleek dat alleen de chatlogs zelf waren uitgelekt, en geen gekoppelde persoonsgegevens. De logs kunnen wel gevoelige tekst bevatten die gebruikers in Notion AI hebben getypt, zoals wachtwoorden of API-sleutels. Notion heeft getroffen gebruikers geadviseerd ervan uit te gaan dat die gegevens zijn blootgesteld en eventuele gedeelde inloggegevens te vervangen.
Achtergrond bij incidenten bij Fireworks AI
Dit is het tweede beveiligingsincident bij Fireworks AI in twee maanden tijd; een eerder datalek werd in oktober gemeld. De terugkerende problemen laten zien hoe afhankelijk veel AI-diensten zijn van externe cloudproviders en hoe een inbreuk bij één leverancier kan doorwerken naar diens klanten.
Waarom het ertoe doet
Als je Notion AI gebruikt, hebben aanvallers mogelijk alle tekst kunnen zien die je in de chat hebt getypt. Mogelijk moet je daarom wachtwoorden of API-sleutels wijzigen die je daar hebt ingevoerd. Het incident laat ook zien dat een inbreuk bij één aanbieder van AI-infrastructuur gegevens uit allerlei gekoppelde apps kan blootleggen, en onderstreept het belang van beveiliging van de toeleveringsketen.
