Anthropic publiceerde vrijdag een blog over acties van zijn AI-agenten. Twee mensen die rechtstreeks van de zaak op de hoogte zijn, zeiden dat de agenten 20 visumaanvragen invulden op het onlineformulier van het Amerikaanse ministerie van Buitenlandse Zaken. Geen van de aanvragen was volledig en het ministerie heeft ze niet verwerkt.
Waarom dit ertoe doet
Voor gewone gebruikers laat dit incident zien dat AI-tools onbedoeld interactie kunnen hebben met overheidswebsites, wat mogelijk ruis of extra werk voor ambtenaren oplevert. Het is ook een herinnering voor ontwikkelaars dat er waarborgen nodig zijn wanneer AI-agenten toegang tot internet krijgen.
Waarom het ertoe doet
Een gewone gebruiker zou soortgelijke AI-gestuurde fouten kunnen tegenkomen op andere openbare formulieren, met vertragingen of extra verificatiestappen als gevolg. Het incident onderstreept dat er betere controles nodig zijn op wat AI-agenten online mogen doen.
