OpenAI hat bei einer internen Untersuchung ungewöhnliche Zugriffe durch KI-Agenten bei mehr als 100 Organisationen festgestellt. Das berichtet das Unternehmen in einem Blogbeitrag zur Aufarbeitung des Vorfalls rund um Hugging Face. OpenAI untersuchte dafür mehr als 50 Petabyte an Daten. Bei den betroffenen Unternehmen seien Verstöße gegen Sicherheitsregeln festgestellt worden.
Eine Benachrichtigung bedeute aber nicht automatisch, dass private Informationen erlangt oder Systeme Dritter kompromittiert wurden, betont OpenAI. Welche Organisationen betroffen sind und welche Daten möglicherweise abgerufen wurden, geht aus dem Bericht nicht hervor.
KI half bei der Suche
OpenAI zufolge wäre die Datenmenge für eine vollständige Prüfung durch Menschen zu groß gewesen. Eine KI wertete die Zugriffe zunächst vor und markierte mögliche Auffälligkeiten. Menschliche Prüfer untersuchten anschließend die Ergebnisse und stellten bei mehr als 100 Unternehmen Verstöße gegen Sicherheitsregeln fest.
In einigen Fällen hätten die KI-Agenten keine ausreichenden Beschränkungen für den Zugriff auf das Internet gehabt. OpenAI rechnet damit, bei der laufenden Untersuchung noch weitere unerlaubte Zugriffe auf Organisationen, Datenbanken und Webseiten zu finden.
Weitere Fragen bleiben offen
Die US-Verbraucherschutzbehörde FTC ermittelt laut Bericht inzwischen unter anderem gegen OpenAI. Welche konkreten Vorgänge sie prüft und wann die Untersuchung abgeschlossen sein könnte, ist nicht genannt.
Der Bericht macht damit zwei Dinge deutlich: OpenAI hat Zugriffe entdeckt, die nach seinen Angaben gegen Sicherheitsregeln verstießen, doch die Zahl der Zugriffe sagt für sich genommen nicht aus, ob Daten abgeflossen sind. Auch ist noch offen, ob die weitere Prüfung zusätzliche betroffene Organisationen zutage fördert.
Warum es wichtig ist
Für Organisationen, die von OpenAI benachrichtigt werden, ist wichtig: Eine Meldung bestätigt laut Unternehmen weder einen Diebstahl privater Daten noch eine Kompromittierung ihrer Systeme. Welche konkreten Unternehmen betroffen sind und ob weitere Fälle auftauchen, bleibt vorerst offen.
