# KI-Forscher warnen vor Auslöschungsrisiko durch Superintelligenz

> Ehemalige Wissenschaftler von OpenAI, DeepMind und Anthropic schätzen die Wahrscheinlichkeit, dass KI die Menschheit auslöschen könnte, auf 10 bis 50 Prozent.

Oossa · 2026-09-29 · https://oossa.com/de/ai-researchers-warn-superintelligence-could-pose-extinction-risk

Die gemeinnützige Organisation Palisade Research hat eine Reihe von Interviewvideos mit KI-Forschern von OpenAI, Google DeepMind und Anthropic veröffentlicht. Darin sagen die Wissenschaftler, eine künftige superintelligente KI könnte tatsächlich so gefährlich sein, wie es der Hype nahelegt. Geoffrey Irving, der sowohl bei OpenAI als auch bei DeepMind gearbeitet hat, beziffert die Wahrscheinlichkeit der Auslöschung der Menschheit auf „ungefähr einen Münzwurf“. Neel Nanda, Forscher bei DeepMind, schätzt das Risiko auf „mindestens zehn Prozent“. Der ehemalige OpenAI-Mitarbeiter Daniel Kokotajlo sagt, ein superintelligentes System wäre „gottgleich mächtig“ und lasse sich nicht kontrollieren.

## Was die Forscher sagten

In den Videos geht es auch darum, warum die Wissenschaftler trotz der Risiken weiter an KI arbeiten. Mary Phuong von Google sagt, sie werde „vom Labor bezahlt“ – ein Hinweis auf einen Interessenkonflikt. Nanda ergänzt, er würde kündigen, wenn er nicht glaubte, dass seine Arbeit das existenzielle Risiko verringere. Die Unternehmen würden die Systeme aber ohnehin weiterentwickeln.

Palisade Research hat die vollständigen Videos auf frominside.ai veröffentlicht und außerdem kurze Ausschnitte zusammengestellt, die sich auf die eindrücklichsten Aussagen konzentrieren. Die Website bietet keine einheitliche Lösung für mehr Sicherheit; auch die Forscher sind sich uneinig darüber, wie der Bedrohung begegnet werden sollte.

## Die Fakten

- Geoffrey Irving, ehemaliger Mitarbeiter von OpenAI und DeepMind, sagte, die Wahrscheinlichkeit, dass KI die Menschheit auslöscht, liege ungefähr bei 50 Prozent – wie bei einem Münzwurf.
- Neel Nanda, Forschungswissenschaftler bei DeepMind, schätzt die Wahrscheinlichkeit, dass KI die Menschheit auslöschen könnte, auf mindestens 10 Prozent.
- Daniel Kokotajlo, ehemaliger OpenAI-Forscher, beschrieb eine superintelligente KI als „gottgleich“ und unkontrollierbar.
- Die Interviews wurden von Palisade Research, einer gemeinnützigen Organisation mit Schwerpunkt auf KI-Fähigkeiten und -Motivationen, zusammengestellt und veröffentlicht.
- Die Videos sind auf frominside.ai zu sehen und enthalten Kommentare von aktuellen und ehemaligen Mitarbeitern von OpenAI, Google DeepMind und Anthropic.

## Warum es wichtig ist

Diese Warnungen legen nahe, dass selbst führende KI-Ingenieure ein erhebliches Risiko katastrophaler Folgen sehen. Für Nutzer im Alltag bedeutet das: Die Debatte über KI-Sicherheit ist keine rein akademische Frage. Sie könnte beeinflussen, wie schnell leistungsfähige KI-Werkzeuge eingeführt werden und welche Schutzmaßnahmen greifen.

## Quellen und Referenzen

1. [AI researchers put out videos saying superintelligence is ‘exactly as dangerous as it sounds’](https://www.theverge.com/ai-artificial-intelligence/1002238/openai-google-anthropic-ai-researchers-safety-interviews) – The Verge, 2026-09-29

Zuletzt aktualisiert: 2026-09-29