Chefer på bland andra Anthropic och OpenAI förbereder sig enligt uppgifter till Axios för en möjlig ”katastrofal AI-incident”. Scenarierna kan enligt Ny Tekniks återgivning omfatta cyberattacker mot finansiella tjänster, internet eller el- och vattenförsörjning.
Anthropics vd Dario Amodei har uttryckt oro för att en grupp AI-agenter skulle kunna ta över internet inom sex till tolv månader. OpenAI bekräftar att olika team går igenom tänkbara scenarier, men säger att de inte ses som oundvikliga. Det framgår inte hur många bolag som övar eller vilka konkreta åtgärder de har vidtagit.
Varför det spelar roll
För verksamheter som är beroende av digitala tjänster pekar uppgifterna på att AI-bolagen tar möjliga störningar på allvar, men källan visar inte att ett angrepp är nära förestående.
