Så enkelt ble Metas KI-chatbot lurt til å hacke Instagram-kontoer

Hackere har enkelt klarte å manipulere en utbredt KI-tjeneste – nemlig Meta AIs støttechatbot – til å infiltrere Instagram-kontoer. 404 Media og BBC var blant de første som fortalte om saken.

Flere Telegram-grupper for sikkerhetsforskere og hackergrupper har den siste tiden delt videoer og skjermbilder som viser fremgangsmåten for å stjele en konto – noe som tilsynelatende var oppsiktsvekkende enkelt.

I én av videoene skal en hacker starte en samtale med Metas KI-baserte kundestøttebot og be den koble målkontoen til en ny e-postadresse ved hjelp av en svært enkel tekstkommando.

KI-boten sender deretter en tallkode til angriperens e-postadresse, som angriperen deretter skriver inn og deretter mottar en e-post om nullstillelse av passordet – noe som igjen altså gir tilgang til kontoen.

En av Telegram-kanalene hevder videre at et Instagram-sårbarhet som har fungert i flere måneder, nå blir aktivt misbrukt. Denne sårbarheten lar angripere overta kontoer ved å bruke en VPN for å fremstå som om de befinner seg i samme region som offeret, starte en tilbakestilling av passordet og deretter overtale Metas KI-baserte kundestøtte til å bytte e-postadressen knyttet til kontoen.

Flere ofre for hackemetoden la ut innlegg på sosiale medier som dokumenterer sårbarheten. Jane Manchun Wong, som tidligere jobbet for Instagram og Threads, opplyste på X at Instagram-kontoen hennes ble kompromittert ved at passordet ble endret uten hennes viten, og at hun mottok forespørsler om passordendring en rekke ganger.

Meta skal ha fikset

Hun viser til et annet innlegg som omhandler sårbarheten og kaller hendelsen «bekymringsfull».

Ifølge 404 Media skal avsløringen av sårbarheten ha sammenfalt med kompromittering av flere høyprofilerte Instagram-kontoer kort tid etterpå. Dette skal blant annet omfatte kontoen som den tidligere amerikanske presidenten Barack Obama brukte under sin presidentperiode.

Det er uvisst akkurat hvor mange kontoer som er rammet, men tallet kan naturlig nok være høyt.

Meta har selv anerkjent problemet. I en melding publisert på X hevder visekommunikasjonssjef Andy Stone at problemet er løst og at selskapet er i ferd med å sikre kontoer som er rammet av sårbarheten i Meta AI-boten.

Ut over dette foreligger det imidlertid i skrivende stund lite informasjon fra Meta om saken, noe mange av de kritiske kommentarene til Stones innlegg på X påpeker.

Vil trolig skje igjen

– Dette er det du får når du setter KI i førersetet. KI burde aldri blitt brukt til å skrive kode i utgangspunktet, lyder en av kommentarene. En annen kommentar kaller sårbarheten «enorm», med håp om at noe lignende ikke skjer igjen.

Selv om Meta har fikset problemet, representerer sårbarheten en potensielt betydelig trusselfaktor etter hvert som KI i økende grad brukes til kundestøtteoppgaver – en allerede utbredt anvendelse for teknologien.

Også sikkerhetsmiljøet selv uttrykker bekymring.

– KI-chatboter skaper en interessant, ny angrepsflate, og vi kommer sannsynligvis til å se langt flere angrep av denne typen i tiden fremover, sier forsker Ian Goldin i sikkerhetsselskapet Black Lotus Labs til nettstedet Krebs On Security.