KUNSTIG INTELLIGENS

Europol med skarp KI-advarsel

Kriminelle vil ta i bruk kunstig intelligens til svindel og annen kriminalitet, slår Europol fast.

FILE - Text from the ChatGPT pagTekst fra selskapet OpenAIs nettside om selskapets mye omtalte chatbot ChatGPT. Europol advarer nå om hvilke muligheter slike nye verktøy gir kriminelle
FILE - Text from the ChatGPT pagTekst fra selskapet OpenAIs nettside om selskapets mye omtalte chatbot ChatGPT. Europol advarer nå om hvilke muligheter slike nye verktøy gir kriminelle Foto: AP
1. apr. 2023 - 09:08

Chatboter som kan skrive overbevisende tekster med utgangspunkt i innspill fra brukeren, har fått mye oppmerksomhet den siste tiden. Før påske rykket Europol og advarte om at denne teknologien ikke bare vil bli brukt til positive formål.

Europol er EUs sentrale organ for politietterretning og -samarbeid.

Chatboten ChatGPT, som er skapt av det amerikanske selskapet OpenAI, ble lansert i november. Brukerne kastet seg over produktet og ble forbløffet over programmets evne til å svare klart på spørsmål. ChatGPT har vist seg i stand til å lage alt fra sonetter og dataprogrammer til eksamensbesvarelser.

– Mulighetene denne typen systemer for kunstig intelligens gir kriminelle, gir dystre utsikter, konstaterer Europol.

Europol har nylig etablert et « innovasjonslaboratorium » som både skal se på kriminelles bruk av teknologi og mulighetene ny teknologi gir politiet i deres arbeid. Avdelingen har vurdert chatboter generelt, men har også sett konkret på ChatGPT i en serie seminarer.

ChatGPT ble valgt ut fordi systemet i øyeblikket er det høyest profilerte og mest brukte i sitt slag, skriver Europol.

Svindel og phishing

Flere tusen personer er arrestert etter at politiet gikk til aksjon mot Encrochat.
Les også

Kryptert meldingstjeneste ble stengt: Nå er flere tusen personer arrestert

En av konklusjonene er at kriminelle kan bruke ChatGPT til å innhente informasjon om nye og ukjente temaer raskt. Det kan for eksempel dreie seg om å samle opplysninger om «hvordan man kan bryte seg inn, begå terrorhandlinger eller overgrep mot barn», sier Europol i sin uttalelse.

Å lage overbevisende tekst til svindelforsøk er også et bruksområde som skisseres. Chatbotens evne til å produsere tekst gjør den særlig effektiv i forbindelse med såkalt phishing, mener Europol.

Et phishing-angrep gjennomføres ved å lure brukeren med en tekst og en lenke til en falsk nettside, der vedkommende lures til å legge inn innloggingsinformasjon. Deretter kan de nettkriminelle bruke brukernavn og passord til å stjele data.

En tidligere studie gjennomført av det amerikansk-israelske selskapet Check Point Research (CPR) har også vist hvordan chatboten også kan brukes til å infiltrere nettbaserte systemer gjennom phishing.

Propaganda og desinformasjon

Europol sier også at ChatGPTs evne til å raskt produsere tekster som ser autentiske ut, også gjør det til et «ideelt verktøy for propaganda og desinformasjon, siden det setter brukerne i stand til å lage og spre budskap som speiler et narrativ med relativt liten innsats».

Kriminelle med manglende teknisk innsikt kan også bruke tjenester som ChatGPT til å lage dataprogrammer, påpeker Europol.

ChatGPT har innebygde sikkerhetssystemer som skal sette innholdsbegrensninger og hindre at systemet svarer på spørsmål som regnes som skadelige eller partiske. Europol mener imidlertid at kreative spørsmålsstillere kan omgå disse.

Den Haag-baserte organisasjonen påpeker også at kunstig intelligens er i en tidlig fase, og at systemenes kapasiteter antas å bli enda bedre over tid.

– Det er av største viktighet at det blir oppmerksomhet rundt dette temaet for å sikre at mulige smutthull oppdages og lukkes så raskt som mulig, uttaler det europeiske politisamarbeidet.

Artikkelen fortsetter etter annonsen
annonse
Innovasjon Norge
Store muligheter for norsk design i USA
Store muligheter for norsk design i USA

Eksperter ber om pause

Sam Altman leder det som nå trolig vil kunne kalles verdens nest mest verdifulle oppstartsselskap.
Les også

Open AI i samtaler om å hente inn kapital

I uken før påske gikk Elon Musk og et stort antall eksperter og akademikere ut og ba om en seks måneders pause i utviklingen av kraftig kunstig intelligens. Oppfordringen kom i et åpent brev.

Pausen trengs for å utvikle retningslinjer som kan sikre at KI-systemene ikke utgjør en fare, mener ekspertene. Hvis ikke KI-selskapene selv setter utviklingen på vent, ber de myndighetene i verdens land om å gripe inn.

Ekspertene mener KI-systemene har nådd et punkt der de er i ferd med å kunne løse generelle oppgaver på samme måte som mennesker. Systemer med intelligens på nivå med mennesker kan utgjøre en stor risiko for samfunnet og menneskeheten, heter det i brevet.

– Bør vi la maskiner oversvømme informasjonskanalene våre med propaganda og usannheter? Bør vi automatisere bort alle jobbene, også de som er givende? spør ekspertene.

Det er organisasjonen Future of Life Institute som står bak det åpne brevet.

EUs industrisjef Thierry Breton leder forhandlingene i EU om KI-regler. Her er han fotografert under et annet arrangement tidligere i år.
Les også

EU strever med å enes om banebrytende KI-regler

Del
Kommentarer:
Du kan kommentere under fullt navn eller med kallenavn. Bruk BankID for automatisk oppretting av brukerkonto.
Tekjobb
Se flere jobber
En tjeneste fra