Snart kommer det falsk e-post du trolig blir lurt av

7 av 10 klarte ikke å se forskjell på et kjærlighetsbrev generert av ChatGPT og et skrevet av et menneske. Det viser en fersk undersøkelse fra McAfee.

Etisk hacker Sondre Rudi Baugstø i Redpill Linpro mener at dette og lignende verktøy kan få stor betydning i tiden som kommer.

– ChatGPT er veldig interessant for oss som driver med offensiv sikkerhet. Der er superspennende å anvende den som del av vår portefølje når vi skal prøve å bryte oss inn hos bedrifter, sier Baugstø.

Da snakker vi om avtalte oppdrag med legitim penetrasjonstesting. Han leder et team på et dusin teknologer som jobber med både offensiv og defensiv sikkerhet.

Toppen av isfjellet

Baugstø advarer om at kunstig intelligens, som ChatGPT, er et nytt verktøy også for motparten.

Hittil har vi antakelig bare sett toppen av isfjellet hva gjelder mulige anvendelser for slike løsninger, tror han.

– Jeg tror rett og slett vi ser starten på noe – og hvor skummelt det kan være. Senere vil det bare komme mer, ikke minst innen lyd og video. Det kan resultere i videoinnhold som du ikke klarer å se forskjell på, som inkluderer ChatGPT eller lignende løsninger basert på naturlig språkprosessering. Det er starten på noe stort, men også skummelt. Derfor trenger vi fokus på opplæring, ikke minst, konstaterer Baugstø.

Kriminelle hackere er allerede gjerne et hestehode, og kanskje vel så det, foran de som forsvarer datasystemene, slik han ser det. Nå har det blitt enklere enn tidligere å lage troverdige tekster som kan lure flere.

Resultatet kan bli mer effektive og flere sofistikerte phishingkampanjer, der ofrene blir forsøkt narret til å gi fra seg persondata eller kontoopplysninger, eller der man lurer folk til å åpne skadevare.

Troverdig phishing

Sikkerhetseksperten vektlegger at ChatGPT også kan benyttes til å lage ondsinnet kode som er skreddersydd og unik. Det vil si at den tidligere ikke har vært eksponert for eller oppdaget av antivirusløsninger, fordi koden er helt ny.

Redpill Linpro har ikke selv har tatt i bruk ChatGPT i faktiske kundeoppdrag ennå, men Baugstø har testet verktøyet på egen hånd og generert phishingtekster for å se hvor godt den gjør det.

– Det gjør den ganske greit.

OpenAI, leverandøren bak tjenesten, har lagt inn visse filtre eller sperrer mot generering av innhold som kan misbrukes til kriminelle handlinger. Alt etter hvordan forespørslene utformes, er det likevel ingen større kunst å komme seg rundt.

Flere medier har skrevet om tiltak, der ChatGPT blir manipulert eller «truet på livet» til å utføre eller generere innhold i strid med tjenestens egne regler.

Men det er ikke nødvendig hvis alt man trenger er en troverdig e-post som anmoder brukerne om å besøke et vilkårlig nettsted.

Spår vekst i cyberangrep

Sondre Rudi Baugstø tror vi bare har sett starten på hvilke muligheter kunstig intelligens kan innebære innen datasikkerhet, både på godt og vondt.

I 2023 vil vi se ekstremt mye mer sofistikert nettphishing og spam på grunn av avansert kunstig intelligens. ChatGPT skriver bedre enn de fleste, mener han.

Hvor langt de kriminelle hittil har kommet med bruk av slike verktøy, er det derimot vanskelig å si noe konkret om.

– Det kan være vanskelig å avgjøre om phishing er generert av ChatGPT eller et menneske, fordi den gjør det såpass bra. Jeg tror heller ikke det finnes statistikk om dette. I den ferske rapporten til McAfee kommer det frem at kunstig intelligens klarer å generere veldig troverdige meldinger til «catfishing» eller datingsvindel. Det kan være skummelt for folk som er mottakelige for sånt.