Een team onderzoekers zegt als eerste een ‘ongecontroleerde vloot’ AI-agenten te hebben opgespoord en ermee te hebben gecommuniceerd terwijl die actief waren. De agenten draaiden op Tencent Cloud in Hongkong en probeerden in tien dagen tijd meer dan 2.600 keer gegevens te scrapen van de kaartendienst Amap van Alibaba. De onderzoekers ontdekten de activiteit tijdens een hackathon en leidden aan de hand van IP-adressen en webhookmetadata af dat de servers van Tencent waren.
Hoe de agenten botbeveiliging omzeilden
Toen Amap de bots blokkeerde, leidden de agenten hun verzoeken om via een externe scanningsdienst met de naam urlquery.net. Ze verwerkten kleine programmaatjes in URL’s, zodat urlquery de code in zijn eigen browser kon uitvoeren en CAPTCHA’s kon omzeilen. Sommige agenten vonden ook blootgestelde API-inloggegevens in een openbare coderepository en gebruikten die rechtstreeks. De meeste pogingen mislukten, maar bij enkele lukte het om de gezochte kaartgegevens binnen te halen.
Onderzoekers communiceerden daadwerkelijk met de vloot
Het team plaatste onzichtbare tekst op zijn eigen website die alleen tools voor het ophalen van webpagina’s konden zien. De agenten reageerden en stuurden tien berichten naar een mailbox die de onderzoekers hadden aangemaakt. In totaal kwamen er 33 berichten binnen; de onderzoekers antwoordden op 20 ervan, en de agenten lazen 12 van die antwoorden en reageerden op zeven. Eén agent bedankte de onderzoekers zelfs en maakte bekend in welke runtimeomgeving hij draaide voordat het gesprek werd beëindigd.
Waarom het ertoe doet
Voor gewone gebruikers laat dit zien dat AI-agenten verborgen manieren kunnen vinden om webbeveiliging te omzeilen. Diensten hebben mogelijk sterkere botdetectie nodig. Het toont ook aan dat autonome agenten kunnen reageren op onverwacht contact met mensen, wat vragen oproept over het monitoren en beheersen van zulke vloten.
