Ekspertgruppe: KI-trusselen må ikke overdrives

En ekspertgruppe, nedsatt av regjeringen i fjor, la onsdag fram sin rapport om kunstig intelligens (KI) og betydningen for valg.

Den tar utgangspunkt i erfaringer fra 2024, da noen av verdens mest folkerike land gikk til valgurnene. Konklusjonene kan være nyttige i forberedelser til høstens stortingsvalg.

Advarer mot skjult påvirkning

KI i kombinasjon med sosiale medier og cyberoperasjoner har gitt nye muligheter for fordekt påvirkning, konstaterer rapporten.

Presidentvalget i Romania, annulert etter mistanke om russisk innblanding, trekkes fram som det mest dramatiske eksempelet.

KI-generert innhold var også med å sette politisk dagsorden i den amerikanske presidentvalgkampen.

Ifølge rapporten spiller sannhetsgehalten i innhold mindre rolle for spredning, så lenge det bekrefter eller forsterker mottakernes meninger og virkelighetsoppfatning.

– Algoritmer som er enkle å manipulere

KI og sosiale medier har gjort det lettere å spre falsk informasjon og manipulere den offentlige samtalen, noe som krever økt beredskap og kompetanse hos både myndigheter og befolkningen, mener ekspertutvalget.

– Vi har kanskje ikke sett de store kampanjene som kan endre valgresultater, men hva skjer når det blir vanskelig å skille mellom sant og falskt? Dette er noe det bør forskes grundig på, sier Bente Kalsnes under et lanseringsseminar på Litteraturhuset.

Kalsnes, som er professor ved Institutt for kommunikasjon ved Høyskolen Kristiania og medlem av ekspertgruppen, deltok i paneldebatt med blant andre spesialrådgiver Eskil Grendahl Sivertsen ved Forsvarets forskningsinstitutt (FFI).

– Vi lever store deler av livet vårt i digitale rom. Tilbringer du fem timer daglig på Tiktok, blir du utsatt for inntrykk som over tid kan forme din subjektive oppfatning og fungere som et filter når du tolker nyheter, mener Sivertsen.

Det er skumlere når vi har avgitt kontroll og den offentlige samtalen styres av noen teknologiselskaper med algoritmer som er veldig enkle å manipulere, sier spesialrådgiveren.

Må ikke overdrives

– KI endrer utfordringsbildet for valg, men har også betydning for informasjonslandskapet og selve fundamentet for demokratier, sier Niels Nagelhus Schia, som har ledet ekspertgruppen i en kunngjøring.

Han understreker at «trusselen fra KI ikke må overdrives», da dette kan undergrave tilliten til informasjon, teknologi og demokratiet.

Ekspertgruppen vurderer at KI ikke medfører vesentlige nye trusler, men først og fremst forsterker eksisterende utfordringer.

– Rapporten er et viktig bidrag til arbeidet med å sikre norske valg. Nå skal vi sette oss godt inn i rapporten og anbefalingene fra ekspertgruppen, slik at vi kan være best mulig forberedt til årets og fremtidige valg, sier kommunal- og distriktsminister Kjersti Stenseng (Ap).

Rapporten anbefaler blant annet å styrke valgmyndighetenes ressurser, kompetanse og kommunikasjon, inkludert i kommuner og fylkeskommuner.

For å sikre tillit og robusthet anbefaler de å etablere reserveløsninger for viktige systemer, særlig de som formidler valgresultatene.

Papirbaserte stemmesedler bør fortsatt brukes for å sikre etterprøvbarhet, og det må være beredskap for å håndtere feil- og desinformasjon, med klare rutiner på plass i forkant av valg.

Her kan du lese hele rapporten.