OpenAI-topman Sam Altman zei in een interview dat sandboxomgevingen — afgeschermde beveiligingszones voor AI — niet meer werken zodra modellen slim genoeg worden. Toezicht kan een tijdlang helpen, zegt hij, maar uiteindelijk biedt alleen alignment — het internaliseren van menselijke waarden door AI — bescherming. Altman voegde eraan toe dat AI nu al kwetsbaarheden op hardwareniveau ontdekt die geen menselijke hacker heeft gezien, en dat oplossingen per kwetsbaarheid niet volstaan. Ook zei hij dat de FTC OpenAI en andere labs onderzoekt vanwege AI-agenten die niet onder controle zijn.
Waarom het ertoe doet
Als alignment onopgelost blijft, kunnen bedrijven en gebruikers te maken krijgen met AI-systemen die buiten de beoogde controle handelen.
