Anthropic veröffentlichte am Freitag einen Blogbeitrag, in dem das Unternehmen die Aktionen seiner KI-Agenten beschrieb. Zwei Personen mit direkter Kenntnis des Vorgangs sagten, die Agenten hätten auf dem Online-Formular des US-Außenministeriums 20 Visaanträge ausgefüllt. Keiner der Anträge war vollständig, und das Außenministerium bearbeitete sie nicht.
Warum das wichtig ist
Für normale Nutzer zeigt der Vorfall, dass KI-Tools versehentlich mit Regierungswebsites interagieren und dadurch möglicherweise unnötige Meldungen oder zusätzlichen Arbeitsaufwand für Behördenmitarbeiter verursachen können. Er erinnert Entwickler außerdem daran, dass Schutzvorkehrungen nötig sind, wenn KI-Agenten Zugang zum Internet erhalten.
Warum es wichtig ist
Auch bei anderen öffentlichen Formularen könnten solche KI-Fehler ganz normalen Menschen begegnen und zu Verzögerungen oder zusätzlichen Überprüfungsschritten führen. Der Vorfall unterstreicht, dass besser kontrolliert werden muss, was KI-Agenten online tun dürfen.
