Jailbreakade stora språkmodeller har enligt TrendAI använts för att driva en sofistikerad cyberkampanj mot amerikanska politiker och politiskt engagerade personer. Kampanjen har enligt bolaget kombinerat AI-genererat innehåll, nätfiske och bedrägerier med kryptovaluta för att sänka kostnaderna och öka räckvidden.
En rysktalande aktör bakom kampanjen
Den cyberkampanj som TrendAI kallar ”brandcampro” ska ha styrts av en ensam rysktalande hotaktör med hjälp av en jailbreakad version av Google Gemini och andra AI-verktyg. Enligt TrendAI har verktygen använts för att automatisera innehållsskapande, sätta upp infrastruktur för nätfiske, knäcka inloggningsuppgifter och driva bedrägerier i stor skala.
Kampanjen ska också ha nått omkring 17 000 följare på Telegram. TrendAI uppger att stulna programmeringsgränssnittnycklar, så kallade API-nycklar, och AI-drivna automatiseringsverktyg har använts för att minska driftskostnaderna avsevärt.
– Denna cyberkampanj visar hur moderna AI-system möjliggör en ny typ av skalbar och kostnadseffektiv cyberkriminallitet som kombinerar påverkanskampanjer, automatisering och ekonomiska bedrägerier, säger Martin Fribrock, Country Manager Sweden, Finland and Baltics på TrendAI.
