Palisade Research, en ideell organisation med fokus på AI:s förmågor och drivkrafter, har publicerat en serie intervjuer med ett dussintal nuvarande och tidigare anställda på OpenAI, Google och Anthropic. I videorna, som samlats på frominside.ai, diskuterar forskare risken för att avancerad AI kan utgöra ett extremt hot mot människor.
Geoffrey Irving, som tidigare arbetat på OpenAI och Google DeepMind, sade att han bedömer risken för att mänskligheten utrotas till ”ungefär femtio procents chans”. Google DeepMinds forskare Neel Nanda uppskattade den till ”minst 10 procents chans”. Daniel Kokotajlo, tidigare forskare på OpenAI, varnade för att superintelligent AI kan bli ”gudalik och mäktig” och sade: ”vi vet inte alls hur vi ska kontrollera dem”. Det här är enskilda bedömningar, inte uppmätta sannolikheter eller en gemensam prognos från AI-branschen.
Vilka kommer till tals?
Palisade uppger att de intervjuade inte är ett representativt urval av anställda på ledande AI-företag. Organisationen rekryterade deltagare genom sina egna nätverk och rekommendationer och säger att de som tackade ja i oproportionerligt hög grad kom från säkerhetsteam, oroade sig mer för riskerna eller ville se en långsammare AI-utveckling. Bland de medverkande finns forskare från OpenAI, Google DeepMind och Anthropic, liksom personer som har lämnat organisationerna.
Palisade uppger att organisationen spelade in 22 intervjuer, men att många publiceras först om deltagarna ger sitt tillstånd i efterhand. Intervjuerna var inte manusbundna, men deltagarna fick frågorna i förväg. Palisade säger att redaktörerna gjorde ändringar för att få bättre flyt och tydlighet och ibland satte ihop olika tagningar. Serien innehåller också korta klipp från flera personer kring gemensamma frågor, till exempel om varningar för risker är överdrivna och varför någon fortsätter arbeta i en bransch som personen anser vara farlig.
Varför tala ut medan man arbetar med AI?
Intervjuerna presenterar ingen gemensam lösning. Nanda sade att han skulle sluta om han inte trodde att hans arbete minskade existentiella risker, men tillade att han inte räknar med att företagen slutar bygga AI-system bara för att han lämnar. Mary Phuong på Google uppmanade tittarna att ifrågasätta hennes perspektiv eftersom ”labbet betalar mig”.
Palisade säger att organisationen startade projektet efter att ha sett ett stort allmänintresse för vad anställda på ledande AI-företag tycker om tekniken. Syftet är enligt gruppen att ge de anställda en direkt kanal till allmänheten. Palisade uppmanar också människor i USA att kontakta sina kongressledamöter, samtidigt som organisationen konstaterar att människor i andra länder kan framföra sina åsikter till sina egna folkvalda.
Varför det spelar roll
För den som vill förstå vad AI-forskare tycker ger videorna direkta inblickar från anställda på stora AI-labb, bland annat i hur några väger riskerna mot att stanna kvar i branschen. Men Palisade säger att deltagarna är ett utvalt urval, så deras åsikter inte visar hur anställda i branschen i stort känner.