Anthropic, OpenAI och flera andra AI-forskningslabb genomför i det tysta övningar där de föreställer sig att ett AI-system på avvägar slår ut exempelvis banker, internetförbindelser, elnät och vattenförsörjning. Upplägget liknar Pentagons krigsspel, som prövar hur man skulle agera vid ett kärnvapenkrig. Labbens säger att övningarna hjälper dem att tänka igenom hur de ska reagera om ett kraftfullt AI-system beter sig illa.
Så går övningarna till
Enligt Axios samlar varje labb interna grupper som går igenom olika tänkbara felutfall. OpenAIs talesperson uppgav för tidningen att övningarna inte är förutsägelser, utan verktyg för att förbereda sig. Scenarierna omfattar allt från störningar i finansiella tjänster till avbrott i samhällsviktiga tjänster. Labbens ser arbetet som en kontinuitetsövning – en vanlig metod för företag som planerar inför större kriser.
Varför det spelar roll
Om ett kraftfullt AI-system skulle fallera eller missbrukas kan samhällsviktiga tjänster som vi är beroende av – till exempel banktjänster eller elförsörjning – störas. Övningarna ska ge labben ett försprång i arbetet med beredskapsplaner, vilket kan minska avbrotten för vanliga användare. Artikeln bekräftar dock inte hur detaljerade planerna är eller om de kommer att delas med tillsynsmyndigheter eller allmänheten.
