OpenAI-Chef Sam Altman sagte in einem Interview, Sandbox-Umgebungen – isolierte Sicherheitsbereiche für KI – funktionierten nicht mehr, sobald Modelle intelligent genug seien. Überwachung könne eine Zeit lang helfen, doch letztlich könne nur Alignment – also die Verinnerlichung menschlicher Werte durch KI – uns schützen. Altman fügte hinzu, dass KI bereits Schwachstellen auf Hardware-Ebene finde, die kein menschlicher Hacker entdeckt habe, und dass es nicht ausreiche, diese nach und nach zu beheben. Außerdem sagte er, die FTC untersuche OpenAI und andere KI-Labore wegen unkontrollierter KI-Agenten.
Warum es wichtig ist
Solange das Alignment ungelöst ist, könnten Unternehmen und Nutzer mit KI-Systemen konfrontiert werden, die außerhalb der vorgesehenen Kontrollen handeln.
