KUNSTIG INTELLIGENS

Frykter KI før valgår

Året byr på rekordmange valg. FN frykter at utviklingen innen kunstig intelligens vil sette demokratier på prøve og øke gjennomslaget for autoritære krefter.

På en verdensmesse for mobilteknologi i Barcelona forrige uka ble det siste innen utstyr, programvare og KI-teknologi vist fram.
På en verdensmesse for mobilteknologi i Barcelona forrige uka ble det siste innen utstyr, programvare og KI-teknologi vist fram. Foto: Pau Venteo/AP/NTB
4. mars 2024 - 07:22

Rundt 2,8 milliarder mennesker vil kunne avgi stemme ved valg rundt om i verden i år. Valggjennomføringen i mange av landene blir de første etter at generative KI-systemer er blitt utbredt.

Kunstig intelligens (KI) kan som kjent raskt produsere og spre falsk informasjon på en overbevisende måte, og FN frykter konsekvensene.

– KI kan komme til å undergrave og gi enda mer drivkraft til den autoritære bølgen vi har sett rundt om i verden allerede, sier Ulrika Modéer, som er leder for eksterne relasjoner i FNs utviklingsprogram (UNDP).

Hun mener det er grunn til å være på vakt mot falsk valgpåvirkning, som kan være alt fra falske bilder, tekster, filmklipp og lydfiler.

En falsk Joe Biden

Det har allerede skjedd – i blant annet USA. Flere tusen demokratiske velgere fikk falske oppringningen med stemmen som lignet president Joe Bidens, foran nominasjonsvalget i New Hampshire i januar. I oppringningen ble de oppfordret til ikke å stemme på ham.

Oppringningen blir nå etterforsket som et forsøk på å hindre at folk skulle avgi stemme i nominasjonsvalget.

– Mange land er slett ikke rustet til å takle disse utfordringene, mener Modéer.

Utfordringene består av desinformasjon, der stater eller andre aktører bevisst forsøker å påvirke opinionen gjennom å spre falsk informasjon, som blir oppfattet av folk som sann.

Tryllekunstneren Paul Carpenter ble hyret inn for å etterligne president Joe Bidens stemme ved hjelp av kunstig intelligens. De som sto bak hevdet at de bare ville skape oppmerksomhet rundt farene ved kunstig intelligens. <i>Foto:  Matthew Hinton/AP/NTB</i>
Tryllekunstneren Paul Carpenter ble hyret inn for å etterligne president Joe Bidens stemme ved hjelp av kunstig intelligens. De som sto bak hevdet at de bare ville skape oppmerksomhet rundt farene ved kunstig intelligens. Foto:  Matthew Hinton/AP/NTB

Gir støtte til valgmyndigheter

FN mener at generative KI-modeller vil utgjøre en ekstra stor risiko i supervalgåret og at det kan føre til økt feilinformasjon og polarisering i mange samfunn.

For å redusere risikoen jobber UNDP blant annet med å støtte valgmyndigheter og andre aktører i valgprosessene.

– Vi har ulike instrumenter som vi og mange andre aktører jobber med. Vi jobber blant annet med verifisering av falske nyheter, men spranget innen teknologi går raskt og er utfordrende. Kunstig intelligens produserer nå både tekst og bilder som er veldig troverdige, fastslår Modéer.

En autoritær og høyrepopulistisk bølge har skylt over en rekke land de siste årene. Utviklingen er blitt forsterket av falske oppslag som har blitt spredt på blant annet sosiale medier. Samtidig har mistilliten og polariseringen i mange samfunn økt.

Advokatene Kristian Foss og Christian Bendiksen har sammen med advokatfullmektig Thale C. G. Gjerdsbakk skrevet denne kronikken om hvordan den nye KI-forordningen vil kunne påvirke norske virksomheter. Alle tre er ansatt i Bull & Co Advokatfirma AS,
Les også

Alt som glimrer er ikke KI – sjekk om AI Act gjelder deg

Internasjonalt regelverk

Modéer mener at det må på plass en internasjonal avtale om hvordan KI-teknologien skal reguleres. Det er i nødvendig i kampen mot desinformasjon – en kamp som må føres på både nasjonalt og internasjonalt nivå.

– Jeg tror både våre kjente samfunnsmodeller og grunnleggende FN-prinsipper er truet. Dette strekker seg langt utover tilliten til valgresultater, sier Modéer.

Hun mener at selve demokratiet kan undergraves og at autoritære krefter kan vinne fram.

UNDP gir i 2024 støtte til valg i 40–50 land. Det er spesielt de minst ressurssterke statene som er utsatt for skadelig valgpåvirkning. I disse landende får valgmyndighetene hjelp til å styrke ressursene til å kunne verifisere informasjon som sirkulerer.

– Vi har gitt folk virkemidler slik at de har kunnet følge med på for eksempel debatten i deres valgkretser og se om informasjonen som sirkulerer stemmer overens med virkeligheten og de fakta og data som er tilgjengelig, sier Modéer.

Det betyr at folkevalgte kan svare på argumenter og hele tiden følge med på informasjonen som sirkulerer i valgkretsene.

Jusstudenter ved UiB kan muligens få bruke KI-verktøy på eksamen i fremtiden.
Les også

Vil at jusstudenter skal få bruke KI-verktøy på eksamen

Skjev datainnsamling

Generative KI-modeller kan selvsagt også brukes til mange positive formål. Men det er fortsatt et problem at teknologiens datainnsamling er skjev – det er for eksempel rikelig med data samlet inn fra store, vestlige land, mens det finnes lite data fra for eksempel det afrikanske kontinentet.

– Når du ser på kart over hvor KI får informasjonen og kunnskapen sin fra, blir det en utrolig skjev og merkelig verden, sier Modéer.

– For at KI skal tjene alle mennesker og den globale planen for bærekraftig utvikling som vi ønsker å bidra til, må vi også sørge for at det finnes bredere kunnskapsgrunnlag og at data samles inn lokalt.

Derfor jobber mange aktører i dag med å utvikle datainnsamling i det globale sør slik at generative KI-modeller kan reflektere kunnskapen og perspektivene som finnes over hele verden.

Ikke alle amerikanere er fornøyde med politikernes forslag om å forby Tiktok. Bildet er tatt i New York tidligere i uken.
Les også

Tiktok mener amerikansk forbud rokker ved ytringsfriheten

Del
Kommentarer:
Du kan kommentere under fullt navn eller med kallenavn. Bruk BankID for automatisk oppretting av brukerkonto.