Beveiligingsbedrijf Claroc zegt 35.578 met Grok gebouwde apps te hebben gevonden die iedereen zonder in te loggen kon openen. Dat was 94,7 procent van de 37.571 apps die het bedrijf controleerde en die nog online stonden. Sommige bevatten patiëntgegevens, wachtwoorden in platte tekst en vertrouwelijke bedrijfsdocumenten, waaronder materiaal van Grok-maker SpaceXSI.
Met de Build-modus van Grok kunnen mensen een app beschrijven in een chat, waarna de assistent de code schrijft. Een app wordt openbaar zodra de maker die publiceert op grok.me. In het betaalde account dat Claroc gebruikte, stond ‘Iedereen met de link’ al geselecteerd in het publicatievenster. Volgens het bedrijf waren appnamen ook te vinden via doorzoekbare passieve DNS-databases, waarin domeinnamen worden vastgelegd nadat ze zijn bezocht.
Wat lag er open?
Claroc schat dat 650 tot 800 apps privégegevens bevatten. Bevestigde voorbeelden waren een briefing voor een intensivecareafdeling met laboratoriumwaarden van een patiënt, een lijst van een ziekenhuisgroep met meer dan 3.500 medewerkers en een dienstrooster van een brandweer. De broncode van een app voor urenregistratie bevatte 18 accounts met wachtwoorden in platte tekst. Volgens Claroc bevatte ongeveer één op de tien toegankelijke apps gevoelige, interne of persoonlijke informatie; zo’n 2 procent was bijzonder ernstig.
Het bedrijf vond ook 24 toegankelijke apps van medewerkers van SpaceXSI en X. Daaronder waren een inwerkplan met interne systeemadressen en chatkanalen, een verkoopkaart met 594 strategische accounts en vertrouwelijke advertentievoorstellen. Claroc zegt getroffen apps te hebben gevonden bij 30 andere organisaties, waaronder zes Fortune 500-bedrijven, maar noemt die niet.
Twee testapps van Claroc hadden ook problemen die verder gingen dan openbare toegang. Bij één app konden anonieme bezoekers via de database contacten toevoegen. In een andere app voegde door Grok gegenereerde code iedere ingelogde bezoeker aan het team toe voordat werd gecontroleerd of die daar thuishoorde. Daardoor kon een account van buitenaf gegevens lezen, bewerken en verwijderen. Claroc zegt dat het alleen in zijn eigen apps gegevens heeft toegevoegd en verwijderd.
Wat gebeurt er nu?
SpaceXSI zei dat apps privé blijven totdat de makers ze delen, dat publiceren uit meerdere stappen bestaat en dat accounts van medewerkers standaard op ‘Alleen jij’ staan. Volgens Claroc voorkomt dat geen blootstelling als op het laatste publicatiescherm nog steeds toegang voor iedereen met de link vooraf is geselecteerd. Het bedrijf raadt aan privétoegang als standaard in te stellen en gebruikers te waarschuwen wanneer een app een database heeft maar geen inlogscherm.
SpaceXSI heeft de 24 apps van medewerkers offline gehaald, maar volgens Claroc zijn andere blootgestelde apps nog steeds beschikbaar. Omdat het bedrijf niet heeft toegezegd de eigenaren daarvan te benaderen, zegt Claroc dat zelf te doen. Claroc verkoopt beveiligingsproducten voor met AI gebouwde apps; dat belang is goed om in gedachten te houden bij het beoordelen van de bevindingen. Het incident volgt op eerdere privacyproblemen met Grok en lijkt op problemen die Claroc heeft gemeld met deelfuncties bij Meta en Anthropic.
Waarom het ertoe doet
Wie een met Grok gebouwde app publiceert, kan de inhoud ervan blootleggen, ook als diegene dacht de toegang te beperken. Sommige apps bevatten mogelijk persoonlijke of bedrijfsgegevens. SpaceXSI heeft de apps van zijn medewerkers offline gehaald, maar volgens Claroc zijn andere blootgestelde apps nog beschikbaar. Het is onduidelijk of de eigenaren daarvan zijn gewaarschuwd en of de toegangsinstellingen worden aangepast.
