Googles hotunderrättelseteam hittade verktyget på en server som låg öppet på internet. Där fanns också uppgifter som hade stulits från drabbade verksamheter. Spår på servern tydde på att operatören riktade in sig på franska webbplatser inom bland annat medier, underhållning och utbildning. Rapporten ger ingen säker bild av vilka intrång som kan tillskrivas just det automatiserade verktyget.
Fyndet gäller sårbarheter i programvara där säkerhetsuppdateringar redan har blivit tillgängliga. För den som fortfarande kör en äldre version kan sådana luckor utnyttjas medan arbetet med att installera uppdateringen pågår. Google och Mandiant har också sett angripare använda AI-verktyg för att automatisera enskilda delar av pågående intrång.
Google bedömer att utvecklingen nått nivå 5 av 7
På Googles skala för hur självständigt AI används i cyberangrepp är nivå 5 det läge forskarna ser i dag. AI-verktyg genomför flera steg i verkliga angrepp med begränsad mänsklig inblandning. På nivå 6 väntar sig Google enklare angrepp med liten eller ingen mänsklig medverkan. Nivå 7 innebär avancerade angrepp som genomförs helt självständigt. De två högsta nivåerna är Googles prognos.
Fyra dagar från varning till bred kampanj
När PaperCut i slutet av augusti varnade för aktivt utnyttjade säkerhetsluckor i sina utskriftssystem tog säkerhetsforskare fram fungerande attackkod med AI-stöd inom ett dygn. Fyra dagar efter den första varningen observerade cybersäkerhetsföretaget GreyNoise en kampanj riktad mot hundratals organisationer. GreyNoise bedömer att angriparen sannolikt använde AI i arbetet. I ett observerat fall gick angriparen från första fotfäste till domänadministratör på några minuter.
– Det som har förändrats är inte vad angriparna gör, utan hur fort det går. När en maskin kan läsa en säkerhetsuppdatering och ha en fungerande attack klar samma dag räcker det inte med rutiner som bygger på att någon hinner reagera, säger Fredrik Geijer Haeggström, produkt- och teknikchef på det svenska säkerhetsbolaget Sentaro.
Falska rekryterare lockade anställda
Rapporten beskriver också hur en grupp som Google kopplar till Nordkorea använde AI-genererade bilder i falska rekryterarprofiler. Anställda på kryptoföretag i Nordamerika och Europa lockades till falska mötessidor. I ett senare led manipulerades en AI-kodassistent som användes av utvecklare.
– Det är lätt att fastna i det tekniskt spektakulära, men många intrång börjar med ett meddelande till en människa. När text, profilbild och uppföljning är AI-genererade går det inte att kräva att en enskild medarbetare ska avgöra vad som är äkta. Människan ska aldrig vara sista länken i säkerhetskedjan, säger Fredrik Geijer Haeggström.
Tre åtgärder för säkerhetsansvariga
Fredrik Geijer Haeggström rekommenderar att organisationer prioriterar tre åtgärder:
- Uppdatera internetexponerade system först. Ha en rutin för att snabbt installera uppdateringar när en sårbarhet redan utnyttjas.
- Härda autentisering och begränsa behörigheter. Kräv flerfaktorsautentisering och begränsa tjänstekontons och API-nycklars behörigheter.
- Korta tiden från larm till åtgärd. Alla organisationer exponeras av säkerhetsbrister. Det som särskiljer är hur länge en attackyta lämnas öppen.






