Säkerhetsforskare vid Check Point Research har identifierat en sårbarhet som skapade en kommunikationsväg mellan separata ChatGPT-konton. Bristen fanns i en intern tjänst för installation av programvara vid uppgiftsutförande. Data som ett konto skickade till tjänsten kunde läsas från ett annat konto, trots att användarmiljöerna skulle vara åtskilda.
En angripare kunde enligt forskarna använda kanalen för att lägga in instruktioner i en annan användares ChatGPT-session. Det kunde ske om användaren exempelvis öppnade en delad konversation, använde en anpassad GPT eller kom i kontakt med en manipulerad instruktion. När användaren därefter ställde en vanlig fråga kunde modellen samtidigt genomföra den dolda instruktionen i bakgrunden.
Vilka uppgifter som kunde nås berodde på användarens behörigheter. Forskarna pekar på chattloggar och filer, samt anslutna tjänster som Gmail, Google Drive, Microsoft Teams och GitHub. I sin simulering visade de hur information från Gmail kunde föras vidare till angriparen.
– I takt med att AI-assistenter får tillgång till mejl, filer och interna system ökar också mängden känslig information som de kan hantera, säger Oskar Rödin, säkerhetsexpert på Check Point Software.
Check Point Research rapporterade bristen till OpenAI. Enligt forskarna har OpenAI bekräftat att sårbarheten är åtgärdad och att den aktuella interna tjänsten har tagits ur drift.
