# Forschende warnen: KI könnte ihre eigene Entwicklung beschleunigen

> Mehr als 20 KI-Forschende sagen, dass Systeme schon bald einen Großteil der Arbeit automatisieren könnten, die nötig ist, um bessere KI zu entwickeln. Sie fordern die Politik auf, sich ein klareres Bild davon zu machen, wie sich diese Forschung verändert.

Oossa · 2026-09-28 · https://oossa.com/de/researchers-warn-ai-could-speed-up-its-own-development

Mehr als 20 KI-Forschende, darunter Geoffrey Hinton, Yoshua Bengio und OpenAI-Forschungsleiter Jakub Pachocki, warnen, dass KI schon bald dabei helfen könnte, leistungsfähigere KI zu entwickeln. In einem neuen Paper schreiben sie, dass dies zu einer „Intelligenzexplosion“ führen könnte – einem rasanten Kreislauf, in dem KI beim Bau besserer KI hilft, die den Prozess dann weiter beschleunigt.

Die Autorinnen und Autoren betonen, dass Zeitpunkt und Ausgang ungewiss sind. Sie sagen jedoch, dass KI-Systeme bei Unternehmen, die solche Systeme entwickeln, bereits den Großteil des Codes schreiben und KI den gesamten Forschungs- und Entwicklungsprozess innerhalb weniger Jahre automatisieren könnte.

## Warum sind sie besorgt?

Wenn KI mehr Arbeit bei der Entwicklung und beim Testen neuer Systeme übernimmt, könnten Fortschritte, für die es heute Jahre braucht, innerhalb weniger Monate erzielt werden, warnen die Forschenden. Sie befürchten, dass Regierungen und Gesellschaft Schwierigkeiten haben könnten, mit diesem Tempo Schritt zu halten. Außerdem verweisen sie auf die Möglichkeit, dass Menschen die Kontrolle über hochleistungsfähige KI verlieren und sich die Macht zwischen Unternehmen, Regierungen und Ländern verschieben könnte.

Dabei handelt es sich um Risiken, die die Autorinnen und Autoren des Papers beschreiben – nicht um die Vorhersage, dass ein solches Ergebnis sicher eintreten wird. Der Artikel nennt keinen genaueren Zeitrahmen als „innerhalb weniger Jahre“ und macht keine Angaben dazu, welche Bereiche der KI-Forschung zuerst automatisiert würden.

## Was fordern sie von der Politik?

Die Forschenden fordern die Politik auf, sich deutlich besser darüber zu informieren, wie die KI-Forschung automatisiert wird. Das könnte Entscheidungsträgern helfen, zu verstehen, wie schnell sich die Technologie verändert. Die konkreten politischen Vorschläge des Papers werden in der Quelle jedoch nicht näher ausgeführt.

## Die Fakten

- Das Paper hat mehr als 20 Forschende als Autorinnen und Autoren, darunter Geoffrey Hinton, Yoshua Bengio und Jakub Pachocki.
- Die Forschenden sagen, KI könnte den gesamten Forschungs- und Entwicklungsprozess für KI innerhalb weniger Jahre automatisieren.
- Die Autorinnen und Autoren sagen, dass KI-Systeme bei Unternehmen, die KI entwickeln, bereits den Großteil des Codes schreiben.
- Laut dem Paper könnten Fortschritte, für die es normalerweise Jahre braucht, innerhalb weniger Monate erzielt werden.

## Warum es wichtig ist

Wenn sich die KI-Entwicklung beschleunigt, müssen die Regeln und Sicherheitsprüfungen für Werkzeuge, die Menschen bei der Arbeit und zu Hause nutzen, womöglich Schritt halten. Die Forschenden fordern mehr Einblick, damit die Politik dieses Tempo besser einschätzen kann; aus der Quelle geht nicht hervor, welche neuen Regeln eingeführt werden sollten.

## Quellen und Referenzen

1. [More than 20 leading AI researchers warn that automated AI research poses extreme risks](https://the-decoder.com/more-than-20-leading-ai-researchers-warn-that-automated-ai-research-poses-extreme-risks/) – The Decoder, 2026-09-28

Zuletzt aktualisiert: 2026-09-28