KUNSTIG INTELLIGENS

FN mener KI kan misbrukes til å fornekte jødeutryddelsene

KI-teknologi bidrar til å skape falske historier om andre verdenskrig, noe som kan føre til «en eksplosiv spredning av antisemittisme», advarer FN.

I en ny rapport advarer FN mot misbruk av KI-teknologi til å øke spredningen av usannheter om nazistenes drap på mer enn seks millioner mennesker under andre verdenskrig
I en ny rapport advarer FN mot misbruk av KI-teknologi til å øke spredningen av usannheter om nazistenes drap på mer enn seks millioner mennesker under andre verdenskrig Foto: Markus Schreiber/AP/NTB
19. juni 2024 - 07:36

En rapport fra Unesco – FNs organisasjon for utdanning, vitenskap, kultur og kommunikasjon – konkluderer med at kunstig intelligens (KI) kan bidra til misvisende og falske påstander om jødeutryddelsene under andre verdenskrig, ifølge nyhetsbyrået AP.

Enten som følge av svakheter i programmene, eller fordi hatgrupper eller holocaustfornektere bevisst lager innhold som feilaktig stiller spørsmål med drapene nazistene utførte på jøder og andre grupper.

Holocaust er en betegnelse på nazistenes folkemord før og under andre verdenskrig. Mer enn seks millioner jøder ble drept.

EU er misfornøyde med datahåndteringen til ChatGPT-eier OpenAI. Frykten er at tekstroboten gir tendensiøse og usanne svar.
Les også

EU misfornøyde med Chat GPTs datahåndtering

Falske, men realistiske stemmer

En av de største bekymringene er at KI lett kan lage såkalte deepfakes, realistiske bilder eller videoer hvor holocaust blir framstilt som overdrevet eller noe som ikke skjedde.

I rapporten nevnes for eksempel en KI-generert Joseph Goebbels som hevder at han forsøkte å redde liv. Joseph Goebbels var propaganda­minister i Nazi-Tyskland, og spilte en nøkkelrolle i å spre nazistisk ideologi og manipulere offentlig opinion gjennom omfattende propaganda.

Ifølge nyhetsbyrået AFP framhever rapporten en deepfake av skuespiller Emma Watson fra Harry Potter-serien som leser høyt fra Hitlers bok «Mein Kampf». Noen programmer med kunstig intelligens gjør det mulig å snakke med interaktive fiktive historiske figurer inkludert Adolf Hitler.

Usannheter om massakre

Rapporten viser til flere eksempler: Den mest kjente KI-tjenesten Chat GPT fant opp et helt nytt konsept – holocaust ved drukning. Googles chatbot Bard har fabrikkert en rekke vitner som støtter opp under usannheter om nazistenes massakre.

– Hvis vi tillater at de grusomme fakta om holocaust blir utvannet, forvrengt eller forfalsket gjennom uansvarlig bruk av KI, risikerer vi en eksplosiv spredning av antisemittisme og en gradvis svekkelse av vår forståelse av årsakene og konsekvensene av disse grusomhetene, sier generaldirektør i Unesco, Audrey Azoulay, i en uttalelse.

Rapporten er laget i samarbeid med World Jewish Congress for å markere Den internasjonale dagen mot hatefulle ytringer. Rapporten oppfordrer regjeringer, teknologiselskap og utdanningsinstitusjoner til handling.

Meta har sendt ut varsel til brukerne om planene i Facebook- og Instagram-appen.
Les også

MDG: Vil gi millioner til Datatilsynet for å ta kampen mot Meta

Trenger etiske retningslinjer

De bør innføre etiske retningslinjer for KI-teknologi og innføre opplæring i skolen om risikoen ved KI-generert innhold. Det vises til tilfeller der hackere har satt opp chatbots for å spre nazi-ideologi. Andre boter har funnet opp helt egne historier om holocaust.

Ifølge Karel Fracapane viser forvrengte holocaust-historier hvordan KI kan snu opp ned vårt forhold til sannhet og føre til en oppløsning av demokratisk kultur. Fracapane er Unesco-ekspert på holocaust utdanning.

– Den økende populariteten til ytre høyre-politikere i Vest-Europa er del av de samme prosessene som sprer hatytringer på nettet, sier han til AFP.

Kan gi oppslukende opplevelser

Unesco-rapporten finner også positive sider ved innføring av KI. Algoritmene kan identifisere og sortere ekte vitnemål.

Den kunstige intelligensen kan også se nye mønstre og finne ny innsikt. I skoleverket kan verktøyene gi oppslukende opplevelser til unge mennesker.

– Men akkurat nå representerer KI mer en trussel enn nye muligheter, sier Karel Fracapane.

Statsminister Jonas Gahr Støre (Ap) trakk fram seks sikkerhetspolitiske utfordringer i en redegjørelse til Stortinget torsdag.
Les også

Støre: KI utfordrer allerede demokratiet betydelig

Del
Kommentarer:
Du kan kommentere under fullt navn eller med kallenavn. Bruk BankID for automatisk oppretting av brukerkonto.