Oossa

Google varnar för helt automatiserade AI-cyberattacker

Googles Threat Intelligence Group rapporterar att angripare använder AI-agenter för att hitta och utnyttja säkerhetsbrister utan mänsklig hjälp. Måltavlorna är franska medier och utbildningswebbplatser.

Av Publicerad av Oossa: 2 min läsning

Tyler · Unsplash

Googles Threat Intelligence Group (GTIG) uppger att de har sett den första helt automatiserade cyberattackkedjan som drivs av en AI-agent. Systemet, som heter ”exploit_agent”, bevakar programuppdateringar, jämför kod före och efter en säkerhetsuppdatering, hittar en sårbarhet, skriver en exploit och kör den – utan att någon människa behöver röra koden. GTIG hittade servern med verktyget i november 2026 och spårade dess aktivitet till konfigurationsfiler på ryska. Operatören verkar ha riktat in sig på franska webbplatser inom medier, underhållning och utbildning. Google bedömer den pågående aktiviteten till nivå 5, vilket innebär att AI hanterar de flesta steg i attacken och att en människa möjligen bara behöver sätta upp den. Företaget varnar för att kraftfullare och mer svårupptäckta attacker kan dyka upp inom några månader.

Varför det här spelar roll nu

Övergången till autonoma ramverk med flera agenter förändrar attackernas hastighet. Tidigare behövde en människa skriva och testa varje exploit. Nu kan AI korta tidsförloppet till minuter, vilket gör det möjligt för hotaktörer att slå till mot många mål samtidigt. Google och Mandiant har dokumenterat flera verktyg med öppen källkod – ARTEX, CAIRN, CyberStrikeAI, HexStrike AI och PentAGI – som automatiskt låter angripare kedja ihop informationsinhämtning, sårbarhetsskanning och generering av skadlig kod. Verktygen lämnar spår som kan användas i en forensisk undersökning, eftersom de prioriterar snabbhet framför att hålla sig dolda. Det ger försvarare en chans att upptäcka den avvikande trafiken. Men i takt med att de underliggande språkmodellerna blir bättre kan den avvägningen minska, vilket gör attackerna svårare att upptäcka.

I ett större sammanhang

Utvecklingen passar in i ett större mönster som Google beskriver som en ”vändpunkt” för antagonistisk AI. Under det senaste kvartalet har GTIG och Mandiant sett angripare gå från enkla instruktioner till stora språkmodeller (LLM) till att bygga hela autonoma kedjor som letar upp, beväpnar och tjänar pengar på sårbarheter. En ny affärsmodell, kallad LLMJacking, går ut på att stjäla inloggningsuppgifter till molnbaserad AI och sälja vidare åtkomst till kraftfulla modeller på underjordiska marknader. Spionagegrupper med kopplingar till stater använder också LLM för att samla in uppgifter om måltavlor och plantera bakdörrar via komprometterade kodningsassistenter. De nuvarande automatiserade attackerna gör avkall på att hålla sig dolda, men rapporten betonar att framtida versioner kan dölja sina spår, vilket höjer insatserna för säkerhetsteam världen över.

Varför det spelar roll

För vanliga företag innebär det här att angripare nu kan söka efter och utnyttja sårbarheter i maskinhastighet, vilket ökar antalet möjliga incidenter. Försvarare behöver hålla utkik efter ovanliga mönster i automatiserad trafik i stället för att förlita sig på varningar om attacker som styrs av människor. Det är fortfarande oklart hur snabbt angriparna kommer att bli bättre på att hålla sig dolda. Därför bör organisationer stärka arbetet med säkerhetsuppdateringar och övervakning redan nu.

Var den här artikeln användbar?
Dela

Läs vidare

Oossa · Nyhetsbrev

Veckans AI, förklarad

Varje måndag: nyheterna som är värda att känna till, på enkel svenska. Gratis, ingen spam.