Den ideella organisationen Palisade Research har publicerat en serie intervjufilmer med AI-forskare från OpenAI, Google DeepMind och Anthropic. I klippen säger forskarna att en framtida superintelligent AI kan vara lika farlig som hajpen antyder. Geoffrey Irving, som har arbetat på både OpenAI och DeepMind, beskriver risken för att mänskligheten utrotas som ”ungefär ett myntkast”. Neel Nanda, forskare på DeepMind, bedömer risken till ”minst 10 procent”. Daniel Kokotajlo, tidigare anställd på OpenAI, säger att ett superintelligent system skulle vara ”gudaliknande mäktigt” och att vi inte har något sätt att kontrollera det.
Det forskarna säger
I filmerna berättar forskarna också varför de fortsätter arbeta med AI trots riskerna. Mary Phuong från Google säger att hon ”får betalt av labbet”, vilket antyder en intressekonflikt. Nanda tillägger att han skulle sluta om han inte trodde att hans arbete minskade risken för en existentiell katastrof – men att företagen ändå skulle fortsätta bygga systemen.
Palisade Research har publicerat hela filmerna på frominside.ai och även sammanställt korta klipp med de mest slående uttalandena. Webbplatsen presenterar ingen samlad lösning för AI-säkerhet; forskarna är själva oense om hur hotet bör hanteras.
Varför det spelar roll
Varningarna tyder på att även ledande AI-ingenjörer ser en påtaglig risk för katastrofala följder. För vanliga användare innebär det att debatten om AI-säkerhet inte bara är akademisk – den kan påverka hur snabbt kraftfulla AI-verktyg lanseras och vilka skyddsåtgärder som införs.
