Der Google-Ingenieur Haydn Belfield sagt, selbstverbessernde KI – also die Vorstellung, dass KI ohne menschliche Hilfe bessere KI entwickeln kann – sei noch lange nicht Realität. Interne Daten von DeepMind zeigen, dass KI inzwischen mehr als 75 % des Produktivcodes schreibt. Rund 88 % dieser Änderungen müssen jedoch weiterhin von Menschen geprüft werden, bevor sie eingereicht werden.
Automatisierung funktioniert bei eng umrissenen Aufgaben, nicht in der Forschung
Der Anteil der Codeänderungen, die vollständig an KI delegiert werden, stieg laut den jüngsten internen Messungen von 7,5 % auf 11,9 %. Je komplexer die Aufgaben werden, desto stärker sinkt die Erfolgsquote der KI ohne menschliche Mitwirkung. Bei 1,389 Durchläufen mit DeepMinds Argon-Agenten waren Menschen für kreative Forschung, Versuchsplanung, die Diagnose subtiler Trainingsprobleme und langfristige Planung weiterhin unverzichtbar. Eine kleine Umfrage unter zwölf führenden DeepMind-Forschenden bestätigte dieses Muster: Klar definierte, überprüfbare Aufgaben lassen sich stark automatisieren, offene wissenschaftliche Ideenfindung dagegen kaum.
Benchmarks zeigen stetige, aber keine beschleunigte Entwicklung
Bei DeepMinds RE‑Bench – einer Sammlung von 74 praxisnahen Aufgaben aus dem Bereich Machine-Learning-Engineering – löst Argon etwa die Hälfte der Aufgaben. Gemini 3.7 Flash kam zuvor auf 27 %. Der General Capability Index (GCI), der 123 Modelle anhand von 92 Benchmarks erfasst, zeigt, dass sich Gemini-Modelle um ungefähr 0,1 GCI-Punkte pro Monat verbessern – ohne statistische Anzeichen für eine Beschleunigung. Laut Belfield geht der moderate Leistungszuwachs von Gemini 4 Argon auf mehr Rechenleistung und organisatorischen Aufwand zurück, nicht auf eine von KI vorangetriebene Beschleunigung.
Warum es wichtig ist
Für Entwickler bei Google und anderen Unternehmen bedeutet das: KI kann Routineaufgaben beim Programmieren übernehmen, muss aber weiterhin von Menschen geprüft werden. Jobs werden also nicht über Nacht verschwinden. Für die KI-Forschung insgesamt heißt die ausbleibende Selbstbeschleunigung, dass Prognosen einer raschen „Intelligenzexplosion“ spekulativ bleiben und Sicherheitsrisiken über einen längeren Zeitraum beobachtet werden können.
