Onderzoekers waarschuwen dat AI zijn eigen ontwikkeling kan versnellen

Meer dan 20 AI-onderzoekers, onder wie Geoffrey Hinton, Yoshua Bengio en Jakub Pachocki, onderzoeksdirecteur bij OpenAI, waarschuwen dat AI binnenkort kan helpen de ontwikkeling van krachtigere AI te versnellen. In een nieuw artikel schrijven ze dat dit kan leiden tot een „explosie van intelligentie”: een snelle cyclus waarin AI helpt betere AI te bouwen, die het proces vervolgens verder versnelt.

De auteurs benadrukken dat het tijdstip en de uitkomst onzeker zijn. Wel zeggen ze dat AI-systemen nu al het grootste deel van de code schrijven bij bedrijven die AI ontwikkelen, en dat AI binnen enkele jaren het volledige onderzoeks- en ontwikkelingsproces kan automatiseren.

Waarom maken ze zich zorgen?

Als AI een groter deel van het ontwerpen en testen van nieuwe systemen voor zijn rekening neemt, kan vooruitgang waar nu jaren overheen gaan, volgens de onderzoekers in enkele maanden worden geboekt. Ze vrezen dat overheden en de samenleving moeite zullen hebben om dat tempo bij te benen. Ook wijzen ze op de mogelijkheid dat mensen de controle over zeer capabele AI verliezen en dat de macht verschuift tussen bedrijven, overheden en landen.

Dit zijn risico’s die de auteurs van het artikel beschrijven, geen voorspelling dat zo’n uitkomst zeker is. Het artikel geeft geen preciezere tijdlijn dan „binnen enkele jaren” en bevat geen details over welke onderdelen van AI-onderzoek als eerste zouden worden geautomatiseerd.

Wat willen ze dat beleidsmakers doen?

De onderzoekers roepen beleidsmakers op om veel beter zicht te krijgen op de manier waarop AI-onderzoek wordt geautomatiseerd. Dat kan besluitvormers helpen begrijpen hoe snel de technologie verandert, al worden de specifieke beleidsvoorstellen in de bron niet nader uitgewerkt.