FN-rapport: Dette er de største farene ved kunstig intelligens

Myndigheter og offentlige institusjoner har fått hastverk med å kartlegge og analysere KI-teknologiens innvirkning på samfunnet, og FN er intet unntak. Nå har organisasjonen publisert en ny rapport som tar for seg det store bildet.

Den nye rapporten er den første som er utarbeidet av «Independent International Scientific Panel on AI», som ble etablert i fjor og består av 40 vitenskapelige eksperter med varierte bakgrunner

Rapporten, som hevdes å være vitenskapelig basert og uavhengig, belyser blant annet den ekstremt raske utviklingen på KI-feltet, som demonstrert av de mange ytelsesmålingene som nå finnes for KI-systemer.

Krevende test

En av de mest imponerende forbedringene har vi sett med den såkalte Humanity’s Last Exam-testen (HLE) – en svært krevende test bestående av 2500 vanskelige spørsmål som representerer selveste «frontlinjen» av menneskelig kunnskap.

I HLE-testen har de beste modellene økt toppresultatene sine fra bare 8 prosent på tampen av 2024 til hele 45 prosent i begynnelsen av 2026. Med GPQA Diamond-målingen, en test av vitenskapelig resonnering på doktorgradsnivå, svarer de beste modellene nå riktig på rundt 95 prosent av spørsmålene, opp fra 36 prosent i 2023.

Et av problemene med denne lynraske progresjonen er ifølge forskerne at ytelsen forbedres raskere enn vår evne til å måle eller styre den på en tilstrekkelig måte. Dette er problematisk siden evnen til å måle ytelsen er avgjørende for å kunne foreta risikovurderinger.

Dette er en observasjon som en rapport fra Stanford-universitetet også har delt. I den rapporten ble det hevdet at KI-teknologiens ytelse nå er blitt krevende å måle på en troverdig måte fordi selve målingsverktøyene er i ferd med å bli utdatert – og dette er et poeng også den nye FN-rapporten påpeker.

USA og Kina dominerer

Et annet faremoment er at KI-systemene er blitt så avanserte at de potensielt kan «huske» svarene på bestemte tester, noe som kan svekke påliteligheten. I tillegg pekes det på farene ved at KI nå er i stand til villedning og i noen tilfeller kan «forstå» når de blir testet – noe som også kan forstyrre måleresultater.

Panelet ønsker videre å fremheve den store maktkonsentrasjonen som KI-utviklingen har ført til. Ikke bare er produksjon av maskinvaren, og selve KI-teknologien, konsentrert hos et fåtall store selskaper – den geografiske konsentrasjonen er også enorm.

– I 2025 sto institusjoner med base i USA bak 59 fremtredende KI-modeller, sammenlignet med 35 i Kina og bare 13 i resten av verden. Samme år befant 75 prosent av den samlede datakapasiteten i de 500 største kjente private og offentlige KI-dataklyngene seg i USA, etterfulgt av 15 prosent i Kina og 10 prosent i resten av verden, heter det i rapporten.

Det er denne konsentrasjonen som blant annet har fått Europa til å trappe opp KI-satsingen sin betydelig, i en slik grad at noen nå har tatt til orde for å bringe KI-giganten Anthropic til Europa.

Et voksende problem

I 2025 ble 91 prosent av fremtredende KI-modeller utviklet av private selskaper. Det betyr at beslutninger knyttet til for eksempel treningsdata, sikkerhetssystemer og tilgang også befinner seg på innsiden av private selskaper, påpeker forskerne.

Ikke minst fremhever rapporten det faktum at KI nå kan føre til en forvitring av vår «delte» virkelighet gjennom falsk, manipulerende informasjon. Forskerne viser til at KI ofte produserer falske, men overbevisende påstander – og ikke minst «smisker» med brukerne.

Denne smiskingen er allerede veldokumentert, og kommer ifølge panelet av at KI-systemene er designet rundt folks tendens til å foretrekke svar som er enige med brukeren.

Alle funnene kan man finne i selve rapporten.