La société de sécurité Claroc affirme avoir découvert 35 578 apps créées avec Grok que tout le monde pouvait ouvrir sans se connecter. Cela représente 94,7 % des 37 571 apps encore en ligne examinées par l’entreprise. Certaines contenaient des données de patients, des mots de passe en clair et des documents professionnels confidentiels, notamment des documents de SpaceXSI, l’entreprise qui a créé Grok.
Le mode Build de Grok permet de décrire une app dans une conversation et de laisser l’assistant en écrire le code. Une app devient publique lorsque son créateur la publie sur grok.me. Dans le compte payant utilisé par Claroc, l’option « Toute personne disposant du lien » était déjà sélectionnée dans la fenêtre de publication. Selon l’entreprise, les noms des apps pouvaient aussi être trouvés dans des bases de données DNS passives consultables, qui enregistrent les noms de domaine après leur visite.
Quelles données ont été exposées ?
Claroc estime que 650 à 800 apps contenaient des données privées. Parmi les exemples confirmés figuraient un compte rendu de service de soins intensifs avec les résultats d’analyses d’un patient, la liste de plus de 3 500 employés d’un groupe hospitalier et le planning des équipes d’un service d’incendie. Le code source d’une app de gestion des feuilles de temps contenait 18 comptes dont les mots de passe étaient stockés en clair. Claroc indique qu’environ une app accessible sur dix contenait des informations sensibles, internes ou personnelles, et que près de 2 % présentaient un risque particulièrement grave.
L’entreprise a également découvert 24 apps accessibles créées par des employés de SpaceXSI et de X. Parmi elles figuraient un plan d’intégration contenant des adresses de systèmes internes et des canaux de discussion, une carte commerciale répertoriant 594 comptes stratégiques et des propositions publicitaires confidentielles. Claroc indique avoir trouvé des apps concernées dans 30 autres organisations, dont six entreprises du classement Fortune 500, sans les nommer.
Deux apps de test de Claroc présentaient des problèmes allant au-delà du partage public. L’une disposait d’une base de données qui permettait à des visiteurs anonymes d’ajouter des contacts. Dans une autre, le code généré par Grok ajoutait à l’équipe tout visiteur connecté avant de vérifier qu’il en faisait bien partie, permettant ainsi à un compte externe de lire, modifier et supprimer des données. Claroc précise avoir testé l’ajout et la suppression de données uniquement dans ses propres apps.
Quelles sont les prochaines étapes ?
SpaceXSI a déclaré que les apps restent privées tant que leurs créateurs ne les partagent pas, que leur publication nécessite plusieurs étapes et que les comptes des employés sont réglés par défaut sur « Vous seul ». Claroc estime que cela n’empêche pas une exposition si l’écran final de publication présélectionne toujours l’accès pour toute personne disposant du lien. L’entreprise recommande de faire de l’accès privé le réglage par défaut et d’avertir les utilisateurs lorsqu’une app possède une base de données, mais aucun système de connexion.
SpaceXSI a mis hors ligne ses 24 apps d’employés, mais Claroc affirme que d’autres apps exposées restent accessibles. Comme l’entreprise n’a pas pris l’engagement de contacter leurs propriétaires, Claroc indique les prévenir directement. Claroc commercialise des produits de sécurité pour les apps créées avec l’IA ; il convient de garder à l’esprit cet intérêt lorsqu’on évalue ses conclusions. Cet incident fait suite à de précédents problèmes de confidentialité liés à Grok et rappelle des problèmes de partage que Claroc a signalés chez Meta et Anthropic.
Pourquoi c'est important
Les personnes qui publient une app créée avec Grok risquent d’en exposer le contenu même si elles pensent en avoir limité l’accès ; certaines apps peuvent contenir des données personnelles ou professionnelles. SpaceXSI a retiré les apps de ses employés, mais Claroc affirme que d’autres apps exposées restent accessibles. On ne sait pas si leurs propriétaires ont été prévenus ni si les paramètres d’accès vont être modifiés.
