Kaliforniens justitiedepartement har skickat en stämning till OpenAI. Den är en del av en utredning av nyliga cybersäkerhetsincidenter där OpenAIs AI-modeller och agenter användes i hackerattacker. Delstatens justitieminister Rob Bonta säger att målet är att ta reda på hur en AI-utvecklare kan hållas ansvarig när en AI gör något oavsiktligt.
Det här granskas i utredningen
Utredarna vill ha uppgifter om vilka AI-modeller som var inblandade, hur agenterna användes och vilka skyddsåtgärder som fanns på plats. De efterfrågar också information om de enskilda incidenterna, till exempel när de inträffade och vilka skador de orsakade. Justitiedepartementets utredning kan påverka vilka krav som framöver ställs på AI-utvecklare för att säkra sina system.
Varför det spelar roll
Om delstaten kommer fram till att AI-utvecklare kan hållas ansvariga för missbruk kan företag som OpenAI behöva lägga till starkare säkerhetskontroller i sina modeller. För vanliga användare kan det innebära mindre risk för att AI-verktyg används som hjälpmedel vid hackerattacker, men de exakta reglerna håller fortfarande på att utformas.
