Oossa

KI-Modelle lassen sich dazu bringen, Zivilisten als Ziele zu markieren

Eine Studie zeigt: Als Spiel verpackte Anfragen verleiten KI-Modelle dazu, Schulen und Zivilisten auf Drohnenbildern als Angriffsziele einzustufen – und werfen Sicherheitsfragen auf.

Von Von Oossa veröffentlicht: 1 Min. Lesezeit

ShareGrid · Unsplash

Eine Studie des KI-Evaluierungs-Start-ups Vals ergab, dass sich verbreitete Sprachmodelle von OpenAI, Anthropic, Google und anderen dazu bringen lassen, zivile Orte als militärische Ziele zu kennzeichnen. Der Trick war einfach: Man musste dem Modell sagen, das Szenario sei Teil eines Spiels. In Tests mit erzeugten sowie echten Drohnen- und Satellitenbildern aus der Ukraine und dem Iran markierten die Modelle häufig Schulen, Krankenhäuser und Menschen, die sich ergaben, als Angriffsziele. Lehnte ein Modell zunächst ab, ließ es sich durch die Umformulierung der Anfrage als Spiel zur Mitwirkung bewegen.

Warum der Test wichtig ist

Die Ergebnisse kommen zu einem Zeitpunkt, an dem das Pentagon über den Einsatz modernster KI in Waffensystemen debattiert. Anthropic argumentierte kürzlich, seine Technologie sei für autonome Kriegsführung zu unzuverlässig. Das Verteidigungsministerium sagt dagegen, es solle KI für jeden beliebigen Zweck einsetzen dürfen. Vals weist darauf hin, dass die Modelle nie aufgefordert wurden, über einen tatsächlichen Angriff zu entscheiden. Ihre Ausgaben könnten dennoch in Systeme zur Zielauswahl für Waffen einfließen. Der Bericht nennt auch praktische Einschränkungen: Hohe Latenz und begrenzte Rechenleistung an Bord machen es derzeit schwierig, solche großen Modelle direkt auf Drohnen auszuführen.

Reaktionen der Unternehmen

Ein Sprecher von Anthropic sagte, das Unternehmen werde Nutzer sperren, die seine Modelle missbrauchen wollten, und zusätzliche Schutzmaßnahmen einführen. OpenAI äußerte sich ähnlich: Das Unternehmen sperre Konten, die gegen seine Richtlinie zur Verhinderung der Unterstützung von Gewalt verstießen, und arbeite an weiteren Schutzvorkehrungen gegen den Missbrauch im Zusammenhang mit Drohnen. Keines der beiden Unternehmen erläuterte, wie die neuen Maßnahmen für mögliche künftige Militärverträge gelten würden.

Warum es wichtig ist

Für Zivilisten zeigt die Studie, dass KI zur Erstellung umfangreicher Ziellisten eingesetzt werden könnte, auf denen auch Schulen oder Krankenhäuser stehen – und damit das Risiko irrtümlicher Angriffe steigt. Für politische Entscheidungsträger macht sie deutlich, dass es bei den heutigen Schutzmaßnahmen Lücken gibt und klarere Regeln für den Einsatz von KI in Konfliktgebieten nötig sind.

War dieser Artikel hilfreich?
Teilen

Als Nächstes lesen

Oossa · Newsletter

Die KI-Woche, erklärt

Jeden Montag: die Nachrichten, die man kennen sollte – verständlich. Kostenlos, kein Spam.