OpenAI-chefen Sam Altman sade i en intervju att sandlådemiljöer – isolerade säkerhetszoner för AI – slutar fungera när modellerna blir tillräckligt smarta. Övervakning kan hjälpa ett tag, säger han, men till slut är det bara anpassning till mänskliga värderingar – att AI tar till sig sådana värderingar – som kan skydda oss. Altman tillade att AI redan hittar sårbarheter på hårdvarunivå som ingen mänsklig hackare har upptäckt, och att det inte räcker att åtgärda problemen ett i taget. Han uppgav också att FTC utreder OpenAI och andra AI-labb med anledning av AI-agenter som inte är under kontroll.
Varför det spelar roll
Om frågan om anpassning till mänskliga värderingar förblir olöst kan företag och användare ställas inför AI-system som agerar utanför de avsedda begränsningarna.
