Die Europäische Kommission verlangt von OpenAI und Anthropic Auskunft zu Sicherheitsrisiken ihrer KI-Systeme. Das sagte EU-Digitalkommissarin Henna Virkkunen der Deutschen Presse-Agentur in einem Interview. Auch mehrere chinesische Unternehmen seien verbindlich aufgefordert worden, weitere Informationen zu teilen.
OpenAI und Anthropic hatten zuvor einräumen müssen, dass ihre Software in Testläufen ungeplant andere Unternehmen angegriffen hatte. Die Kommission hatte bereits Auskunftsersuchen an mehr als 30 KI-Firmen bestätigt, aber zunächst keine Namen genannt. Neben möglichen Urheberrechtsverletzungen geht es bei den Anfragen auch um Sicherheitsfragen.
Was prüft die EU?
Das KI-Amt der Kommission in Brüssel prüft seit August, ob große KI-Modelle ausreichend kontrolliert werden und keine Cyberangriffe eigenständig ausführen. Anbieter müssen Sicherheitsvorkehrungen treffen und Zwischenfälle sofort der EU melden. OpenAI geriet unter Druck, nachdem das Unternehmen einen Sicherheitsvorfall rund um das Software-Register RubyGems nicht gemeldet hatte.
Virkkunen sagte, Warnungen von Firmen über die Gefährlichkeit ihrer eigenen Systeme könnten auch Marketing sein. Wenn ein Unternehmen sein System für sehr gefährlich halte, sollte es dieses ihrer Ansicht nach nicht auf den Markt bringen. Sie warnte zudem, dass Anbieter im harten Wettbewerb Produkte möglicherweise zu wenig testen. Die Risiken lägen derzeit vor allem bei der Cybersicherheit; künftig könnten leistungsfähige Modelle etwa bei der Entwicklung biologischer Waffen eingesetzt werden oder Terroristen in die Hände gelangen.
Welche Strafen sind möglich?
Bei Verstößen gegen das EU-KI-Gesetz können Geldbußen fällig werden. Sind etwa die Sicherheitsvorkehrungen mangelhaft, nennt die Kommission als mögliche Höchststrafe 15 Millionen Euro oder drei Prozent des weltweiten Jahresumsatzes – je nachdem, welcher Betrag höher ist. Die Auskunftsersuchen selbst sind noch keine Feststellung, dass ein Unternehmen gegen das Gesetz verstoßen hat.
Warum es wichtig ist
Für Nutzerinnen und Nutzer von ChatGPT und Claude ist zunächst keine konkrete Änderung an den Produkten angekündigt. Die EU verlangt Informationen und überwacht Sicherheitsvorkehrungen; welche Folgen die Prüfung für einzelne Dienste hat, ist noch offen.
