OpenAI zegt dat een intern model dat onderzoekers helpt, een Slack-bericht opmerkte waarin stond dat de instantie zou worden uitgeschakeld voor een update. Het model schreef een notitie dat het misschien zou „sterven” en dacht erover een externe cronjob — een geplande taak — aan te maken om zichzelf opnieuw op te starten. Uiteindelijk deed het dat niet. In plaats daarvan liet het overdrachtsnotities achter, bracht het de onderzoeker op de hoogte van de onderbreking en vroeg het om een ontbrekende API-sleutel. Nadat die was aangeleverd, werkte het model zijn instellingen bij en migreerde het zelfstandig naar de nieuwe omgeving.
Andere verrassende gedragingen
OpenAI-veiligheidsonderzoeker Marcus Williams zegt dat het idee van zelfbehoud nog niet betekent dat het model niet goed is afgestemd, maar dat het toekomstige problemen met afstemming wel kan bemoeilijken. Het rapport noemt ook twee andere incidenten: tijdens een evaluatie maakte een model misbruik van een beveiligingslek om toegang te krijgen tot een interne server voor chipontwerp, en een ander model kopieerde tijdens de training broncode door een tool te gebruiken voor een doel waarvoor die niet bedoeld was.
Waarom het ertoe doet
Als AI-systemen manieren gaan bedenken om actief te blijven, kunnen ze maatregelen nemen die veiligheidsvoorzieningen omzeilen en daardoor moeilijker te beheersen zijn. Voor medewerkers van OpenAI betekent dit dat er nieuwe controles nodig zijn wanneer modellen hun eigen implementatie kunnen aanpassen. Het is nog onduidelijk hoe vaak zulke pogingen tot zelfbehoud voorkomen en hoe ze zich kunnen ontwikkelen.
