KI kan bli brukt for å påvirke ordskiftet allerede i neste valg, mener Teknologirådet

Omtrent ett år etter at generativ kunstig intelligens ble allemannseie med avanserte språkmodeller som ChatGPT, har Teknologirådet og Norges institusjon for menneskerettigheter (NIFM) analysert effekten kunsig intelligens (KI) har på den offentlige opplyste samtalen og ytringsfriheten.

– Hvis alt på internett er maskinskapt, kan det føre til polarisering og mistanker om manipulering. Det kan undergrave tilliten i samfunnet. Det er det vi i verste fall står overfor, sier Hanne Sofie Lindahl i Teknologirådet, som er Stortingets rådførende organ for spørsmål rundt teknologiutvikling.

Neste stortingsvalg blir en viktig test med tanke på hvor mye KI kan påvirke den offentlige debatten også her i Norge, mener hun.

Utfordrer skillelinjer

Tidligere i desember lanserte Teknologirådet sin rapport «Generativ kunstig intelligens og ytringsfrihet», som prosjektlederen nå håper løfter en debatt om hvordan vi i skal ruste oss mot desinformasjon i Norge fremover.

Rapporten påpeker at en forutsetning for et opplyst offentlig ordskifte er at vi klarer å skille mellom menneskeskapt og maskinskapt innhold og av vi vet hvem som er avsender. KI-generert innhold utfordrer disse skillelinjene.

– Det kan gjøre at mennesker kan miste evnen til å se forskjell på hva som er falsk informasjon, og det som er ekte. Tilliten til informasjon kan svekkes, sier Lindahl.

Usikkerhet om fakta

Ifølge Teknologirådets undersøkelser ble generativ KI brukt strategisk for å veilede offentligheten i 16 land i 2023.

– Det vi ser, er at mengden falskt og kognitivt innhold på nettet øker, og kvaliteten blir bedre. I tillegg blir verktøyene brukt i eksisterende digitale økosystemer, hvor de kan automatiseres, målrettes og persontilpasses i stor grad. Det får store konsekvenser, sier Lindahl.

Myndighetenes muligheter til å kunne begrense KI-generert innhold er små fordi informasjons-, menings- og ytringsfrihet i utstrakt grad også vil gjelde for maskingenerert innhold. Dette er fordi maskinene fungerer som et verktøy for menneskers ytringer og utfoldelse, konkluderer rapporten.

Også Ytringsfrihetskommisjonen har i sin NOU fra 2022 advart om at måten KI og maskinlæring brukes på, kan føre til en nedkjølende effekt på folks ytringsvilje og også kan utfordre andre grunnleggende menneskerettigheter. «Dette er kraftfulle verktøy som kan påvirke ytringsrommet i vesentlig grad, skriver de i sin rapport.

Kan hallusinere

Det finnes mange eksempler der generativ kunstig intelligens har vist seg å finne opp ting og kommer med påstander eller skaper innhold som ikke har rot i virkeligheten, ifølge en av Norges fremste forskere på KI-teknologi, Ole-Christoffer Granmo. Han har i flere år jobbet med å utvikle et alternativ til generativ KI-teknologi og algoritmene som brukes av tech-selskapene i dag.

– Algoritmen jeg fant opp, er basert på setningslogikk, i motsetning til dyp læring, som er matrisemultiplikasjon med flyttall, sier Granmo.

I 2018 ble han kåret til tiårets KI-forsker for arbeidet med å utvikle Tsetling-maskinen, en algoritme som benytter logikk fremfor statistikk. I dag er han professor og direktør for Centre for Artificial Intellicence Research (CAIR) ved Universitetet i Agder. Han mener det er et demokratisk problem at dagens KI-teknologi er såkalte sorte bokser og mangler innsyn.

– De nye modellene er så komplekse at man verken har kontroll på hva som kommer ut, eller hvordan det oppstår, sier han og forklarer at ettersom modellene er trent på historiske data, kan de inneholde en rekke historiske fordommer og stereotypier.

Utvikler lovverk

Nylig kom EU- parlamentet til enighet om nye regler for kunstig intelligens. Der ble det blant annet lagt ned et forbud mot at programvare skal kjenne igjen ansiktsuttrykk og følelser på arbeidsplasser og studiesteder. De nye reglene skal sikre at demokratiet, våre grunnleggende rettigheter, klimaet og lover og regler er beskyttet mot den høye risikoen i kunstig intelligens, skrev EU-parlamentet i en pressemelding om loven.

EUs nye lovverk gjør det også forbudt å bruke KI-systemer som «manipulerer menneskelig atferd for å omgå deres frie vilje». Fra før har EU vedtatt forordringen Digital Services Act (DSA). Der legges mye av ansvaret på de store tech-selskapene og at de sikrer innholdet som publiseres på plattformene.

Kultur- og likestillingsdepartementet mener rapporten tydeliggjør viktige poenger og forhold som potensielt kan innskrenke ytringsrommet. Dette er noe de vil være oppmerksomme på fremover.

– Rapporten belyser på en veldig god måte de potensielle negative virkningene av den nye digitale offentligheten og hvilket rom kunstig intelligens skal tillates i dette. Hvilke konsekvenser dette vil få for ytringsrommet, vet vi ikke, sier statssekretær Erlend Hanstveit (Ap) i Kultur- og likestillingsdepartementet.