KI – nytteverdi eller dommedagsprofeti?

Diskusjonene om risiko ved kunstig intelligens (KI) har likhetstrekk med den om amerikanske skytjenester. På den ene siden finner vi dem som antar at amerikanske myndigheter sitter med et sugerør direkte inn i norske virksomheters data. På den andre siden har du dem som gir blanke i risikoen. Som alltid er det nyanser av grå mellom sort og hvit. Også når det gjelder KI.

Når vi skal tilnærme oss spørsmålet om hvilken risiko KI representerer, bør vi være så presise som mulig om hva vi egentlig vurderer. Risikoen for at menneskeheten blir utslettet? For at bedrifter blir hacket? Eller at oppskrifter til våpensystemer kommer i hendene på terrorister?

Dette er veldig ulike scenarioer, som bygger på forskjellige forutsetninger. Når de blandes i den samme KI-gryta, blir diskusjonene ofte rotete.

Noen scenarioer er betydelig enklere å vurdere sannsynligheten for enn andre. Vi vet at både kriminelle og statstilknyttede trusselaktører allerede benytter KI til å effektivisere sine cyberoperasjoner og -angrep. Vi har også fått demonstrert at KI-agenter kan samarbeide og operere i svermer for å hacke seg inn i bedrifter. Selv om agentene ikke hadde fått instruksjoner om å gjøre akkurat det.

Risiko allerede i dag

Samtidig er det lite som tyder på at de mest avanserte trusselaktørene kan gjennomføre betydelig mer sofistikerte cyberoperasjoner med KI. Sistnevnte kan også skape mer støy enn et angrep utført av en erfaren, menneskelig hacker. Støy som igjen kan trigge alarmer i et sikkerhetssenter og dermed oppdages av cyberforsvarere.

Det ser ut til at de kriminelle aktørene med mindre erfaring, de som pleier å være økonomisk motivert og går mot dårligere beskyttede mål, har mest å tjene på å bruke KI i sine cyberangrep. De kommer raskt opp i fart og kan bruke mer avanserte teknikker med KI enn uten.

Derfor er det i dag få grunner til å påstå at virksomheter med god IT-sikkerhet, de som typisk står ovenfor de mer avanserte trusselaktørene, har vesentlig høyere sannsynlighet for å bli kompromittert. Fremdeles er det de samme grunnleggende IT-sikkerhetstiltakene som gjelder.

Fremtiden er usikker

Et scenario som har betydelig høyere usikkerhet, men hvor konsekvensene er desto større, er det såkalte dommedagsscenarioet. Altså at KI-systemer blir selvlærende, selvforbedrende og til slutt kvitter seg med menneskeheten.

Dette scenarioet er det nesten umulig å vurdere sannsynligheten for, ettersom det ikke er noen historiske data å se tilbake på.

For at et slikt scenario skal inntreffe, må en rekke forutsetninger oppfylles. KI-systemene må for eksempel kobles til operasjonell teknologi som kan gjøre fysisk skade – uten at vi er i stand til å stanse dem. Men selv om scenarioet er lite sannsynlig og har høy usikkerhet, kan det være klokt å sette inn tiltak, fordi konsekvensene er så enorme.

I møte med selvlærende KI-systemer er det derfor klokt å innta en føre var-tilnærming, selv om det er mye mer sannsynlig at kriminelle tar i bruk KI for å hacke bedriften din.