Ny angrepsmetode: Slik kan Chat GPT lure deg til å installere skadevare

Med den enorme og stadig økende populariteten til de nye, generative KI-tjenestene er det uunngåelig at også aktører med tvilsomme motiver tiltrekkes av teknologien.

Nå rapporteres det om en angrepsmetode som utnytter Chat GPT og lignende tjenester på det man kan kalle en «original» måte, melder blant andre nettstedet Engadget.

Sikkerhetsselskapet Huntress skriver på sine nettsider at de nå har avdekket en metode som innebærer å levere skadevare via KI-tjenestene på en måte som ikke krever tradisjonelle phishing-teknikker.

Ondsinnede Chat GPT-samtaler via Google

Huntress omtaler et tilfelle hvor en bruker simpelthen spurte om hjelp med en oppgave i Google-søkefeltet – i dette tilfellet hvordan man rydder opp i harddisken på Mac – via en ukomplisert søkefrase.

Google viste to sponsede resultater på toppen av siden med lenker som tok brukeren direkte til samtaler i Chat GPT og Grok – og ikke falske «phishing»-utgaver av tjenestene, men de faktiske, autentiske versjonene av tjenestene.

Disse samtalene inneholdt skritt-for-skritt-instruksjoner om hvordan oppgaven kan utføres – og ferdig skrevne kommandoer som brukes ble bedt om å utføre.

Siden brukeren ikke hadde noe grunn til å tro at instruksene ikke kom fra den legitime tjenesten selv, ble kommandoene utført. Kommandoen var imidlertid designet for å laste ned en ondsinnet Mac-programvare kjent som «Amos» – som Digi har omtalt ved flere anledninger.

– Fundamental evolusjon

Ifølge Huntress representerer angrepsmetoden en ny og farlig trend som det kan være vanskelig både å avsløre og å beskytte seg mot.

– Denne kampanjen representerer en fundamental evolusjon innen sosial manipulering; angripere etterligner ikke lenger bare betrodde plattformer. De bruker dem aktivt ved å forgifte søkeresultater for å sikre at den ondsinnede «hjelpen» vises som det første svaret offeret finner, skriver sikkerhetsselskapet.

Søkefrasen som ble brukt, var en enkel «Clear disk space on macOS», i utgangspunktet en helt ufarlig, realistisk søkefrase mange vil kunne benytte uten å tenke over det. Huntress reproduserte de ondsinnede Chat GPT- og Grok-samtalene med ulike varianter av frasen med hell, og også undertegnede Digi-skribent lyktes – men kun én gang.

Det farlige med metoden er at den bevisst utnytter tilliten mange nå har til KI-tjenestene, og med tanke på den enorme brukerbasen – Chat GPT har nå over 800 millioner ukentlige brukere – representerer metoden definitivt en betydelig trussel.

Skummel skadevare

I dette tilfellet er det altså Mac-folket som er mest utsatt, da Amos-skadevaren retter seg spesifikt mot Mac OS.

Amos er en såkalt «stealer»-programvare som er designet for blant annet å hente ut en rekke typer data fra offerets systemer, deriblant Keychain-passord, komplett systeminformasjon, filer fra desktop- og dokumentmappen og Mac OS-passordet.

Den kan også hente ut data fra en rekke ulike nettlesere, som autofill-data, passord, informasjonskapsler (cookies) og kredittkortinformasjon.

Amos kommer i flere ulike varianter og har også operert med flere forskjellige spredningsmetoder, deriblant annonser som etterligner kjente navn og merkevarer som brukere leter etter via Google-søk. Den har også tidligere spredt seg via ondsinnede nettleseroppdateringer.