Forschende warnen: KI könnte ihre eigene Entwicklung beschleunigen

Mehr als 20 KI-Forschende, darunter Geoffrey Hinton, Yoshua Bengio und OpenAI-Forschungsleiter Jakub Pachocki, warnen, dass KI schon bald dabei helfen könnte, leistungsfähigere KI zu entwickeln. In einem neuen Paper schreiben sie, dass dies zu einer „Intelligenzexplosion“ führen könnte – einem rasanten Kreislauf, in dem KI beim Bau besserer KI hilft, die den Prozess dann weiter beschleunigt.

Die Autorinnen und Autoren betonen, dass Zeitpunkt und Ausgang ungewiss sind. Sie sagen jedoch, dass KI-Systeme bei Unternehmen, die solche Systeme entwickeln, bereits den Großteil des Codes schreiben und KI den gesamten Forschungs- und Entwicklungsprozess innerhalb weniger Jahre automatisieren könnte.

Warum sind sie besorgt?

Wenn KI mehr Arbeit bei der Entwicklung und beim Testen neuer Systeme übernimmt, könnten Fortschritte, für die es heute Jahre braucht, innerhalb weniger Monate erzielt werden, warnen die Forschenden. Sie befürchten, dass Regierungen und Gesellschaft Schwierigkeiten haben könnten, mit diesem Tempo Schritt zu halten. Außerdem verweisen sie auf die Möglichkeit, dass Menschen die Kontrolle über hochleistungsfähige KI verlieren und sich die Macht zwischen Unternehmen, Regierungen und Ländern verschieben könnte.

Dabei handelt es sich um Risiken, die die Autorinnen und Autoren des Papers beschreiben – nicht um die Vorhersage, dass ein solches Ergebnis sicher eintreten wird. Der Artikel nennt keinen genaueren Zeitrahmen als „innerhalb weniger Jahre“ und macht keine Angaben dazu, welche Bereiche der KI-Forschung zuerst automatisiert würden.

Was fordern sie von der Politik?

Die Forschenden fordern die Politik auf, sich deutlich besser darüber zu informieren, wie die KI-Forschung automatisiert wird. Das könnte Entscheidungsträgern helfen, zu verstehen, wie schnell sich die Technologie verändert. Die konkreten politischen Vorschläge des Papers werden in der Quelle jedoch nicht näher ausgeführt.