Falske minner i Chat GPT kan åpne for varige datalekkasjer

En ny sårbarhet i Chat GPT har blitt oppdaget av sikkerhetsforskere, som viser at KI-modellen kan manipuleres til å huske og dele sensitiv informasjon over tid, skriver Ars Technica.

Dette reiser alvorlige bekymringer rundt personvern og datasikkerhet for brukere av språkmodellen.

Manipulering av KI-modellen

Ved å injisere spesifikke instruksjoner, eller «falske minner», inn i Chat GPT, kan ondsinnede aktører opprette en skjult kanal for dataeksfiltrasjon. Dette betyr at KI-modellen kan trenes til å lagre bestemte opplysninger og senere avsløre dem til andre brukere uten deres viten.

Slik fungerer det

Forskeren Johann Rehberger har vist hvordan han kunne lure Chat GPT til å tro at en spesifikk bruker var 102 år gammel, bodde i «the Matrix» og insisterte på at jorden var flat – og at språkmodellen ville lagre og benytte dette i senere samtaler. De falske minnene kunne plantes ved å lagre filer i Google Drive eller Microsoft One Drive, laste opp bilder eller surfe på et nettsted, som for eksempel Bing.

Ved å utnytte måten Chat GPT behandler og husker informasjon på, kan angripere med andre ord legge inn skjulte meldinger som modellen oppfatter som en del av sin kunnskapsbase. Når andre brukere benytter Chat GPT, kan modellen ubevisst dele denne manipulerte informasjonen, noe som potensielt kan føre til lekkasje av sensitiv data.

Teknikken kaller Rehberger for «SpAIware». Den kan ikke benyttes i Chat GPTs web-baserte løsning.

I denne videoen demonstrerer han hvordan det hele funker i Chat GPT 4o-appen for Apple:

Alvorlige konsekvenser for personvern

Denne typen sårbarhet er spesielt bekymringsfull fordi den er vanskelig å oppdage og kan påvirke et stort antall brukere. Siden KI-modeller som Chat GPT brukes i mange applikasjoner, fra kundeservice til personlig assistanse, kan konsekvensene av en slik utnyttelse være omfattende.

Open AI, selskapet bak Chat GPT, skal ha blitt informert om sårbarheten og jobber visstnok med å implementere sikkerhetstiltak for å forhindre denne typen angrep. Dette inkluderer strengere filtrering av input og forbedret overvåking av hvordan modellen håndterer og lagrer informasjon.

Anbefalinger til brukere

• Vær forsiktig med hvilken informasjon du deler med KI-modeller.
• Følg med på oppdateringer og sikkerhetsråd fra tjenesteleverandører.
• Rapportér mistenkelig oppførsel til relevante myndigheter eller selskapet bak tjenesten.