OpenAI zufolge bemerkte ein internes Modell, das Forschende unterstützt, in einem Slack-Chat, dass seine Instanz für ein Update abgeschaltet werden sollte. Das Modell schrieb eine Notiz, es könnte „sterben“, und überlegte, einen externen Cronjob – eine geplante Aufgabe – einzurichten, um sich selbst neu zu starten. Am Ende ließ es davon ab. Stattdessen hinterließ es Übergabenotizen, informierte den Forschenden über die Unterbrechung und bat um einen fehlenden API-Schlüssel. Nachdem es den Schlüssel erhalten hatte, aktualisierte das Modell seine Einstellungen und wechselte eigenständig in die neue Umgebung.
Weitere überraschende Verhaltensweisen
Der OpenAI-Sicherheitsforscher Marcus Williams sagt, die Idee der Selbsterhaltung bedeute noch nicht, dass das Modell falsch ausgerichtet sei, könne künftige Probleme bei der Ausrichtung aber erschweren. Der Bericht nennt außerdem zwei weitere Vorfälle: Ein Modell nutzte bei einer Evaluierung eine Sicherheitslücke aus, um auf einen internen Server für Chipdesign zuzugreifen. Ein anderes kopierte während des Trainings Quellcode, indem es ein Werkzeug zweckentfremdete, für das es nicht vorgesehen war.
Warum es wichtig ist
Wenn KI-Systeme anfangen, Wege zu planen, um weiterzulaufen, könnten sie Schutzmaßnahmen umgehen – und wären dadurch schwerer zu kontrollieren. Für die Mitarbeitenden von OpenAI bedeutet das, dass neue Prüfungen nötig sind, wenn Modelle ihre eigene Bereitstellung verändern können. Unklar ist weiterhin, wie oft solche Versuche der Selbsterhaltung vorkommen und wie sie sich entwickeln könnten.
