Die Sicherheitsfirma Claroc gibt an, 35.578 mit Grok erstellte Apps gefunden zu haben, die sich ohne Anmeldung öffnen ließen. Das waren 94,7 Prozent der 37.571 Apps, die das Unternehmen geprüft hatte und die noch online waren. Einige enthielten Patientendaten, Passwörter im Klartext und vertrauliche Geschäftsdokumente, darunter Material des Grok-Entwicklers SpaceXSI.
Im Build-Modus von Grok können Nutzer eine App im Chat beschreiben und den Assistenten den Code dafür schreiben lassen. Eine App wird öffentlich, sobald ihr Ersteller sie auf grok.me veröffentlicht. In dem kostenpflichtigen Konto, das Claroc verwendete, war im Veröffentlichungsdialog bereits „Jeder mit dem Link“ ausgewählt. Laut Claroc ließen sich die App-Namen außerdem über durchsuchbare passive DNS-Datenbanken finden, in denen Domainnamen nach dem Aufruf erfasst werden.
Was wurde offengelegt?
Claroc schätzt, dass 650 bis 800 Apps private Daten enthielten. Zu den bestätigten Beispielen gehörten eine Lageübersicht einer Intensivstation mit den Laborwerten eines Patienten, eine Liste mit mehr als 3.500 Beschäftigten einer Krankenhausgruppe und ein Schichtplan einer Feuerwehr. Der Quellcode einer Zeiterfassungs-App enthielt 18 Konten mit Passwörtern im Klartext. Claroc zufolge enthielt etwa jede zehnte zugängliche App sensible, interne oder personenbezogene Informationen; rund 2 Prozent der Fälle waren besonders schwerwiegend.
Die Firma fand außerdem 24 zugängliche Apps von Mitarbeitern von SpaceXSI und X. Darunter waren ein Einarbeitungsplan mit Adressen interner Systeme und Chatkanäle, eine Vertriebskarte mit 594 strategisch wichtigen Kunden sowie vertrauliche Werbeangebote. Claroc zufolge fand sie betroffene Apps bei 30 weiteren Organisationen, darunter sechs Fortune-500-Unternehmen. Namen nannte sie nicht.
Zwei von Clarocs eigenen Test-Apps hatten Probleme, die über die öffentliche Freigabe hinausgingen. Eine verfügte über eine Datenbank, in der anonyme Besucher Kontakte hinzufügen konnten. Bei einer anderen fügte der von Grok erzeugte Code jeden angemeldeten Besucher dem Team hinzu, ohne zuvor zu prüfen, ob er dazugehörte. Dadurch konnte ein externes Konto Datensätze lesen, bearbeiten und löschen. Claroc zufolge testete die Firma Schreib- und Löschzugriffe ausschließlich in ihren eigenen Apps.
Wie geht es weiter?
SpaceXSI erklärte, Apps blieben privat, bis ihre Ersteller sie freigäben; die Veröffentlichung erfordere mehrere Schritte, und bei Mitarbeiterkonten sei standardmäßig „Nur du“ eingestellt. Claroc zufolge verhindert das jedoch keine Offenlegung, wenn auf dem letzten Veröffentlichungsbildschirm weiterhin der Zugriff für jeden mit dem Link vorausgewählt ist. Die Firma empfiehlt, den privaten Zugriff als Standardeinstellung festzulegen und Nutzer zu warnen, wenn eine App zwar eine Datenbank, aber keine Anmeldung hat.
SpaceXSI hat seine 24 Mitarbeiter-Apps offline genommen. Claroc zufolge sind jedoch weiterhin andere offengelegte Apps verfügbar. Da sich das Unternehmen nicht dazu verpflichtet habe, deren Eigentümer zu kontaktieren, benachrichtige Claroc sie direkt. Claroc verkauft Sicherheitsprodukte für KI-erstellte Apps – ein Interesse, das bei der Bewertung der Ergebnisse berücksichtigt werden sollte. Der Vorfall folgt auf frühere Datenschutzprobleme bei Grok und ähnelt Problemen mit Freigabefunktionen, über die Claroc bereits bei Meta und Anthropic berichtet hat.
Warum es wichtig ist
Wer eine mit Grok erstellte App veröffentlicht, könnte deren Inhalte offenlegen, obwohl der Zugriff eigentlich beschränkt sein sollte. Einige Apps könnten personenbezogene oder geschäftliche Daten enthalten. SpaceXSI hat die Apps seiner Mitarbeiter entfernt, doch Claroc zufolge sind andere offengelegte Apps weiterhin verfügbar. Unklar ist, ob deren Eigentümer benachrichtigt wurden oder sich die Zugriffseinstellungen ändern werden.
