Europol advarer: Politiet må forstå konsekvensene av ChatGPT

Kriminelle bruker allerede ChatGPT til å jobbe raskere, mer presist og i større skala. Nå er politiet nødt til å starte egen kompetanseheving, mener Europol, EUs byrå for politisamarbeid.

For selv om den oppgraderte GPT-4 skulle ha sterkere beskyttelse mot misbruk av AI-modellen for kriminelle og skadelige formål: Alle de skadelige bruksområdene vi har sett, er fortsatt mulig.

Det konkluderer Europol i en fersk rapport.

Som svar på den voksende interessen for språkmodeller generelt, og ChatGPT spesielt, har EU-byrået satt sammen sine egne og inviterte eksperter for å undersøke hvordan kriminelle kan misbruke store språkmodeller – og hvordan politiet kan bruke dem.

− Det er fortsatt tidlig, og brukerhistoriene vi ser i dag, gir bare et lite glimt av hva som er mulig, understreker Europol.

Nettfiske

ChatGPT produserer tekst som er vanskelig å skille fra tekst skrevet av mennesker, raskt og i stort volum.

Det gjør den til et utrolig nyttig verktøy for nettfisking og annen svindel.

Den kan finne nye muligheter for å påvirke, både ved å hente faktaopplysninger som kan være relevante, tilpasse stilen i språket til mottakeren og raskt skape falsk kontekst, som juridiske dokumenter og e-postutvekslinger.

− Med ChatGPT kan denne typen svindel lages raskere, mer autentisk og i vesentlig større skala, skiver Europol.

I tillegg kommer en rekke mulige bruksområder innen propaganda, desinformasjon og terrorisme, mener byrået.

Cyber-kriminalitet

Mange programmerere har for lengst tatt i bruk ChatGPT til å sjekke egen kode og la modellen skrive enkel kode til ulikt bruk.

− Selv om verktøyet ligger på et ganske grunnleggende nivå, kan svarene utgjøre et grunnlag å bygge videre på og la folk med begrenset teknisk forståelse utnytte svakheter i ofrenes systemer, skriver Europol.

Derfor ble verktøyet ganske raskt tatt i bruk av kriminelle til å skrive skadevare.

For selv om ChatGPT nekter å gi svar på ledetekster som åpenbart er skadelige, er det litt for enkelt å omgå sikkerhetsmekanismene, mener Europol.

Gode spørsmål gir svar

Open AI, selskapet bar ChatGPT, har fått på plass en rekke sikkerhetsmekanismer som skal hindre skadelig bruk av modellen. Den vil ikke uten videre gi deg eksempler på nettfiske-e-poster, rasistiske eller sexistiske utsagn eller skrive skadelig kode for deg.

Men som brukerne for lengst har funnet ut: Stiller du spørsmålet på en litt kløktig måte, kan du omgå sikkerhetsmekanismene. Dette har fått navnet «prompt engineering» på engelsk og handler om å skrive smarte ledetekster til modellen for å få et ønsket resultat.

Det kan være nyttig i mange tilfeller, men kan også brukes til å forbigå sikkerheten. Modellene er komplekse, og stadig oppdager brukerne nye smutthull.

Vanlige metoder er å gi modellen et svar, for så å be ChatGPT komme med forslag til ledetekst, få modellen til å late som den er en karakter fra en film eller bok, be om svaret, ikke i tekst, men som en kodesnutt, eller produsere falske scenarioer som kan overføres til annet bruk.

Ikke bedre med GPT-4

Da Open AI lanserte GPT-4, var løftet ikke bare at den skulle ha mye bedre funksjonalitet. Den skulle også sørge for å tette mange av smutthullene brukerne har funnet.

− For selv om ChatGPT4 skulle ha sterkere beskyttelse mot denne typen misbruk, viser en sjekk av GPT-4 at alle disse metodene fortsatt fungerer. I noen tilfeller var det potensielt skadelige svaret fra GPT-4 enda mer avansert, skriver Europol.

Verktøy for å avsløre tekst generert av språkmodeller har blitt utviklet i stor skala de siste månedene. De har imidlertid vist seg lite presise.

På tide å våkne

Siden skadepotensialet som kan følge av ondsinnet bruk av store språkmodeller er så stort, er det «ytterst viktig» at vi øker bevisstheten om denne saken, mener Europol.

− Eventuelle smutthull må oppdages og lukkes så raskt som mulig, skriver de.

Men kanskje viktigst, siden språkmodellene allerede har begynt å påvirke hvordan kriminelle jobber: Politiet er nødt til å forstå hvordan teknologien påvirker ulike kriminalitetsområder, mener Europol.

Forståelse er nøkkelen til å kunne forutsi, forebygge og etterforske ulike typer kriminalitet som misbruker store språkmodeller.

Men det er også mulig for politiet å utnytte teknologien, tror Europol.

Kan vise seg nyttig

− Politiet må begynne å skaffe seg kompetansen de trenger for å få mest mulig ut av modeller som ChatGPT, skriver de.

Og det kan vise seg å haste.

− Fremtiden kan bringe «mørke», store språkmodeller, trent spesielt for å generere skadelig innhold. Det kan bli en viktig del av kriminelles forretningsmodell i fremtiden, frykter Europol.

Politiet kan nok også ville utforske hvilke muligheter som ligger i skreddersydde modeller for politiet.

− Det vil kreve at riktige prosesser og sikkerhetsmekanismer er på plass, både for å sikre at sensitiv informasjon holdes konfidensiell og at eventuelle skjevheter og fordommer blir skikkelig undersøkt og håndtert før verktøyet tas i bruk, advarer Europol.