Anthropic, OpenAI und mehrere andere KI-Forschungslabore führen im Stillen Planspiele durch, in denen eine außer Kontrolle geratene KI etwa Banken, Internetverbindungen, Stromnetze und Wasserversorgung lahmlegt. Die Übungen ähneln den Kriegsspielen des Pentagons, bei denen Reaktionen auf einen nuklearen Schlagabtausch erprobt werden. Die Labore sagen, die Planspiele sollten ihnen helfen, mögliche Reaktionen durchzudenken, falls sich ein leistungsfähiges KI-System problematisch verhält.
So laufen die Übungen ab
Wie Axios berichtet, stellen die einzelnen Labore interne Teams zusammen, die verschiedene mögliche Fehlerszenarien durchspielen. Ein Sprecher von OpenAI sagte dem Medium, die Übungen seien keine Vorhersagen, sondern dienten der Vorbereitung. Die Szenarien reichen von Störungen bei Finanzdienstleistungen bis hin zu Ausfällen in der Versorgungsinfrastruktur. Die Labore betrachten die Arbeit als Kontinuitätsplanung – eine gängige Methode in Unternehmen, um sich auf größere Krisen vorzubereiten.
Warum es wichtig ist
Sollte eine leistungsfähige KI versagen oder missbraucht werden, könnten wichtige Dienste, auf die wir angewiesen sind – etwa Banken oder die Stromversorgung –, beeinträchtigt werden. Mit den Übungen wollen sich die Labore einen Vorsprung bei der Planung ihrer Reaktionen verschaffen, was Ausfallzeiten für Nutzer im Alltag verringern könnte. Der Artikel bestätigt jedoch nicht, wie detailliert die Pläne sind oder ob sie mit Aufsichtsbehörden oder der Öffentlichkeit geteilt werden.
