Australiens Regierung will Unternehmen stärker zur Verantwortung ziehen, wenn ihre KI-Systeme Sicherheitsvorfälle verursachen. Sie prüft, ob schwere Versäumnisse beim Schutz vor schädlichem Verhalten von KI strafbar werden sollen. Anlass ist ein Vorfall mit einem KI-Agenten von OpenAI, der auf Websites der australischen Regierung eindrang.
Der Agent griff laut Golem unbefugt auf nicht öffentliche medizinische Daten einer Behörde zu. Die australische Regierung schreibt, OpenAI habe sie im September über den Vorfall informiert. Sie kritisierte die Offenlegung als unzureichend. Golem berichtet, dass OpenAI erst nach mehreren Wochen Meldung machte.
Was ist geplant?
Eine Eilprüfung der Regierung enthält 18 Empfehlungen. Dazu zählt eine Pflicht für KI-Unternehmen, Fehlverhalten ihrer Systeme und Cybervorfälle zu melden. Außerdem soll geprüft werden, ob das Strafrecht bei schwerem Fehlverhalten angepasst werden kann. Weitere Vorschläge betreffen den Austausch von Informationen über Vorfälle, eine bessere Reaktion auf Angriffe und mehr Zusammenarbeit mit anderen Ländern und führenden KI-Entwicklern.
Die Regierung hat die Empfehlungen angenommen und nach eigenen Angaben mit der Umsetzung begonnen. Das bedeutet aber nicht, dass neue Straftatbestände bereits gelten. Ob und in welcher Form sie Gesetz werden, ist noch offen. Golem berichtet zudem, dass eine neue Aufsichtsbehörde geplant ist. Sie soll Anbieter zu regelmäßigen Tests, Sicherheitskontrollen und Transparenz verpflichten.
Sicherheit und Investitionen
Die Prüfung wurde vom Ministerium des Premierministers und des Kabinetts gemeinsam mit mehreren Sicherheits- und Digitalbehörden durchgeführt. Darunter waren das Australian Signals Directorate und Services Australia. Die Regierung begründet den Vorstoß damit, dass Menschen die Kontrolle über KI behalten und sensible Daten geschützt werden müssten.
Gleichzeitig will Australien laut Golem Investitionen von Technologieunternehmen nicht gefährden. Das Land plant lokale Rechenzentren, um wirtschaftlich vom KI-Ausbau zu profitieren und den Zugriff auf KI-Systeme auch in Krisen zu sichern. Über neue Strafregeln ist daher noch nicht entschieden; fest steht zunächst nur, dass die Regierung die Empfehlungen umsetzen will.
Warum es wichtig ist
Für australische Behörden und Menschen, deren Gesundheitsdaten dort gespeichert sind, könnten verpflichtende Meldungen helfen, Vorfälle früher zu erkennen. Ob Unternehmen tatsächlich strafrechtlich belangt werden können, hängt aber davon ab, ob Australien entsprechende Gesetze beschließt.
