Forskare varnar för att AI kan påskynda sin egen utveckling

Över 20 AI-forskare, däribland Geoffrey Hinton, Yoshua Bengio och OpenAIs forskningschef Jakub Pachocki, varnar för att AI snart kan bidra till att påskynda utvecklingen av mer avancerad AI. I en ny artikel skriver de att detta kan leda till en ”intelligensexplosion” – en snabb utveckling där AI hjälper till att bygga bättre AI, som i sin tur skyndar på processen ytterligare.

Författarna betonar att tidpunkten och utfallet är osäkra. Men de säger att AI-system redan skriver merparten av koden hos företag som utvecklar dem, och att AI inom några år kan automatisera hela forsknings- och utvecklingsprocessen.

Varför är de oroliga?

Om AI tar över mer av arbetet med att utforma och testa nya system kan framsteg som i dag tar år ske på några månader, varnar forskarna. De befarar att regeringar och samhällen kan få svårt att reagera i den takten. De lyfter också risken för att människor kan förlora kontrollen över mycket avancerad AI och att makten kan förskjutas mellan företag, regeringar och länder.

Det här är risker som beskrivs av artikelns författare, inte en förutsägelse om att ett sådant utfall är säkert. Artikeln anger ingen mer specifik tidsram än ”inom några år” och ger inga detaljer om vilka delar av AI-forskningen som skulle automatiseras först.

Vad vill de att beslutsfattarna ska göra?

Forskarna uppmanar beslutsfattare att skaffa sig betydligt bättre insyn i hur automatiseringen av AI-forskningen går till. Det skulle kunna hjälpa beslutsfattare att förstå hur snabbt tekniken förändras, även om artikelns konkreta policyförslag inte beskrivs närmare i källmaterialet.