Kunstig intelligens: – Ikke bare spør hvordan man skal bruke det, men også hvorfor

Kunstig intelligens – KI eller AI – var tema i en paneldebatt under Sikkerhetskonferansen i regi av Nasjonal sikkerhetsmyndighet (NSM) denne uken. Debatten ble innledet med en visning av den manipulerte videoen hvor den ukrainske presidenten Volodymyr Zelenskyj angivelig sier at Ukraina overgir seg.

I videoen er det brukt en teknikk som kalles for deepfake, hvor det brukes kunstig intelligens til å manipulere en persons ansiktsuttrykk og tale på en troverdig måte. Dette har blitt brukt av Hollywood og andre for vekke til live avdøde skuespillere, men i 2018 kom det verktøy som gjorde det samme mulig for langt flere.

Hvor godt laget videoen av Zelenskyj egentlig er, kan diskuteres. Men Geir Olav Dyrkolbotn, major i Cyberforsvaret og førsteamanuensis ved Center for Cyber and Information Security, sa under paneldebatten at utviklingen går raskt og at det om noen år kan være langt vanskeligere å se at noe ikke er ekte.

Må beskyttes

Dagens KI-applikasjoner er basert på et Dyrkolbotn omtaler som smal kunstig intelligens. Disse er svært gode på én spesifikk ting, for eksempel å spille sjakk eller å kjøre bil, men de kan knapt noe annet. Teorien bak slike systemer er gammel, men det er først i de senere år at vi har fått tilgang på datamengdene og prosesseringskraften som trengs.

Ved hjelp av maskinlæringsalgoritmer og data fra den virkelige verden kan man trene opp en modell til å lære seg noe på egen hånd. Noe av det som påvirker hvor godt dette fungerer, er eventuelle skjevheter («bias») i datasettet som kanskje til og med er lagt inn bevisst.

– Vi bruker jo data fra den virkelige verden. Da kan jo noen kan gå inn og bevisst gjøre dataene skjevfordelte, slik at algoritmen velger å ignorere noe som de ikke vil at vi skal oppdage, sa Dyrkolbotn.

Eirik Lekven Nesbakken, kontorsjef i NSM, sa at kunstig intelligens er digitale løsninger som må beskyttes på lik linje med andre digitale løsninger.

– Det er viktig å beskytte modellen som skal ta beslutning, samt dataene som trener den.

Ikke alt er modent nok

Nesbakken sa videre at NSM vil være så åpne om egen bruk av kunstig intelligens som mulig.

– Det er flere fagområder hos oss som kanskje også har en viss bruk for KI i fremtiden. Enkelte av disse er kanskje ikke modne i dag, for eksempel sikkerhetsklarering, siden det er såpass inngripende for noen, fortsatte han.

Dyrkolbotn sier at det for Cyberforsvaret vil være viktig framover å forstå hva slags data som finnes der ute og hva de kan brukes til, blant annet i for å oppdage cyberangrep.

– Det er store mengder data på internett som mennesker ikke klarer å gå gjennom manuelt. De må ha hjelp av maskiner. Dette vil øke vår evne til å detektere at noe skjer. Det er også spennende å se hva som skjer på den offensive siden med bruk av kunstig intelligens.

Dyrkolbotn mener det likevel er viktig å ha mennesker i «loopen».

– Spesielt fordi det er vanskelig å få maskinene til å ha de riktige etiske verdiene. Dette med intensjon og etikk er det fremdeles vanskelig å få maskiner til å forstå, sa han.

Spør også om hvorfor

Den tredje deltakeren i paneldebatten var Leonora Onarheim Bergsjø, hun er førsteamanuensis ved Høgskolen i Østfold og Universitetet i Agder og leder for Norsk råd for digital etikk.

– Jeg tror det er kjempelurt å ikke bare spørre hvordan jeg skal bruke kunstig intelligens, men også hvorfor. Hvilke teknologiske problemer skal teknologien løse, og hvilke ikke-teknologiske problemer skal den ikke løse. Man må vurdere mest mulig bruk opp mot menneskets behov i det demokratiet vi har, og det må vi ta vare på, sa Bergsjø.

Dyrkolbotn pekte på at utviklingen innen bruk av kunstig intelligens går så fort at man ikke alltid rekker å spørre hvorfor. Han viste til studier om bruk av kunstig intelligens innen sosiale medier, hvor en algoritme velger ut artikler som den tror du som bruker er interessert i. Ofte er dette artiklene som får flest klikk.

– En sideeffekt av dette er at vi har sett en polarisering. Det viser seg at det er de mest provoserende og kontroversielle artiklene som får flest klikk. Da får vi en dragning mot dette. Dette med filterbobler og ekkokammer er kanskje utilsiktede effekter av kunstig intelligens eller maskinlæringsalgoritmer, sa majoren.

Slapt personvern kan gi innovative fortrinn

Et annet tema som ble tatt opp i tilknytning til kunstig intelligens, er personvern. Regelverket for dette varierer svært mye, fra å være strengt i Europa til å være bortimot ikke-eksisterende i enkelte andre deler av verden.

– Det er en grunnleggende problemstilling at etikk er sosialt og kulturelt betinget. Det det europeiske regelverket gjør, er å ivareta én samfunnsmodell, hvor menneskets frihet står i sentrum. Da får man samlet inn mindre data enn i for eksempel Kina, hvor den typen frihet som vi verdsetter her, ikke har den samme filosofiske bakgrunn eller det samme grunnlaget i loven, sa Bergsjø.

– Dette gjør at de får veldig mye mer data å leke seg med når de skal være innovative. De etiske forskjellene gjør at noen får noen fortrinn i kappløpet som skaper spennende teknologi, som igjen kan selges til oss. Her har vi mange utfordringer i den kjeden av teknologiutvikling som vi har.