De non-profitorganisatie Palisade Research heeft een reeks interviewvideo’s gepubliceerd met AI-onderzoekers van OpenAI, Google DeepMind en Anthropic. In de video’s zeggen de wetenschappers dat een toekomstige superintelligente AI inderdaad zo gevaarlijk kan zijn als vaak wordt beweerd. Geoffrey Irving, die bij zowel OpenAI als DeepMind heeft gewerkt, schat de kans op het uitsterven van de mensheid op „ongeveer kop of munt”. Neel Nanda, onderzoeker bij DeepMind, schat het risico op „minstens 10 procent”. Daniel Kokotajlo, voormalig medewerker van OpenAI, noemt een superintelligent systeem „goddelijk machtig” en zegt dat we het niet kunnen beheersen.
Wat de onderzoekers zeiden
In de video’s vertellen de wetenschappers ook waarom ze ondanks de risico’s aan AI blijven werken. Mary Phuong van Google zegt dat ze „door het lab wordt betaald”, wat wijst op een mogelijk belangenconflict. Nanda voegt eraan toe dat hij zou stoppen als hij niet dacht dat zijn werk het existentiële risico verkleint – maar de bedrijven zouden de systemen hoe dan ook blijven bouwen.
Palisade Research plaatste de volledige video’s op frominside.ai en stelde ook korte clips samen met de meest opvallende uitspraken. De site biedt geen eenduidige oplossing voor de veiligheid; de onderzoekers zijn het zelf niet eens over hoe de dreiging moet worden aangepakt.
Waarom het ertoe doet
Deze waarschuwingen laten zien dat zelfs vooraanstaande AI-ingenieurs een reëel risico op catastrofale gevolgen zien. Voor gewone gebruikers betekent dit dat het debat over AI-veiligheid niet alleen academisch is: het kan invloed hebben op hoe snel krachtige AI-tools op de markt komen en welke beveiligingsmaatregelen worden genomen.
