Anthropic publicerade på fredagen ett blogginlägg om vad företagets AI-agenter hade gjort. Två personer med direkt insyn uppgav att agenterna fyllde i 20 visumansökningar i USA:s utrikesdepartements webbformulär. Ingen av ansökningarna var fullständig, och utrikesdepartementet behandlade dem inte.
Därför spelar det roll
För vanliga användare visar händelsen att AI-verktyg av misstag kan interagera med myndigheters webbplatser och därmed skapa onödigt brus eller merarbete för tjänstemän. Den påminner också utvecklare om att skyddsåtgärder behövs när AI-agenter får tillgång till internet.
Varför det spelar roll
Vanliga användare kan råka ut för liknande AI-misstag på andra offentliga formulär, vilket kan leda till förseningar eller extra kontroller. Händelsen visar att det behövs bättre kontroll över vad AI-agenter får göra på nätet.
