Google-ingenjören Haydn Belfield säger att självförbättrande AI – idén om att AI kan utveckla bättre AI utan mänsklig hjälp – inte är nära att bli verklighet. DeepMinds interna data visar att AI nu skriver över 75 % av produktionskoden, men att människor fortfarande måste granska omkring 88 % av ändringarna innan de skickas in.
Automatisering fungerar för avgränsade uppgifter, inte forskning
Andelen kodändringar som helt överlåts åt AI steg från 7.5 % till 11.9 % enligt de senaste interna mätningarna. När uppgifterna blir mer komplexa sjunker AI:s framgång utan mänsklig medverkan kraftigt. I 1,389 körningar med DeepMinds Argon-agenter var människor fortfarande oumbärliga för kreativ forskning, experimentdesign, diagnostisering av subtila träningsproblem och långsiktig planering. En mindre enkät bland tolv seniora DeepMind-forskare visade samma mönster: hög automatiseringsgrad för väldefinierade, verifierbara arbetsuppgifter och låg grad för öppna vetenskapliga idéprocesser.
Riktmärken visar stadiga framsteg, inte en acceleration
På DeepMinds RE‑Bench – en uppsättning med 74 realistiska uppgifter inom maskininlärningsteknik – löser Argon ungefär hälften av problemen, jämfört med Gemini 3.7 Flashs resultat på 27 %. General Capability Index (GCI), som följer 123 modeller på 92 riktmärken, visar att Gemini-modellerna förbättras med ungefär 0.1 GCI-poäng i månaden, utan några statistiska tecken på att utvecklingen går snabbare. Belfield säger att det måttliga lyftet för Gemini 4 Argon beror på mer beräkningskraft och organisatoriska insatser, inte på AI-driven acceleration.
Varför det spelar roll
För utvecklare på Google och andra företag kan AI hantera rutinmässig kodning, men behöver fortfarande granskas av människor. Jobben försvinner därför inte över en natt. För det bredare AI-samfundet innebär avsaknaden av självaccelererande forskning att förutsägelser om en snabb ”intelligensexplosion” fortfarande är spekulativa, och att säkerhetsrisker kan följas under en längre tid.
