KI trenger regulering – eller?

På spørsmål fra oljefondsjef Nicolai Tangen på en utendørsscene i Arendal onsdag, svarte Strümke at hun er usikker på om det er mulig å regulere kunstig intelligens. Dette til tross for at hun samtidig håper på en regulering som slår ned på falsk informasjon på nett slik vi slår ned på falske fysiske varer.

– Jeg er litt usikker på om det er mulig å få denne majonesen tilbake på tuben, sa Strümke.

Hun sier noe av det som gjør det vanskelig, er at juristene er nødt til å skrive regulering for noe de ikke vet helt hva er.

– Uansett hvor kapable juristene er, kan de ikke spå, sa hun.

Vage reguleringer

Strümke pekte på tidligere regulering, eksempelvis av personvern (GDPR), og slo fast at dette ble løst ved å skrive en svært vag regulering. Det betyr at store bedrifter har råd til å teste ut grensene, mens små bedrifter sliter med å tolke reglene.

Nicolai Tangen pekte på at de store internett-gigantene virkelig er store, illustrert ved at oljefondet tjente 500 milliarder bare på verdistigningen på de største i fjor.

Han spurte forskeren om hva hun tror om selvregulering for kunstig intelligens.

– I utgangspunktet har bransjestandarder mye godt for seg. Men vi ser jo at toppsjefene fra de sju største selskapene ble enige om åtte retningslinjer for ansvarlig bruk av kunstig intelligens, etter et møte med USAs president Joe Biden. De får det til å se ut som de er ute etter en ansvarlig utvikling, samtidig som det brukes mer penger på lobbyvirksomhet mot EUs AI-lovgivning enn noen gang før, sa hun.

Hun var åpenbart skeptisk til selvregulering, fordi det kommer an på hva man setter høyest, å tjene penger for enhver pris, eller om man trekker noen linjer som det ikke er lov til å tråkke over som bedrift.

Tangen spurte henne også om hva som bør være målet for kunstig intelligens. Svaret hennes er «Gode menneskeliv».

– Det er ikke en selvfølge at denne teknologien gir gode menneskeliv, slo hun fast.

Norge og KI

Oljefondsjefen er naturlig nok opptatt av mulighetene for næringsvirksomhet rundt kunstig intelligens, og drøftet dette på scenen.

Strümke mener Norge har sterke forskningsmiljøer på kunstig intelligens, men at vi sliter når forskningen skal gjøres om til produkter.

– Vi har mye kompetanse, men står fast i startgropa. Jeg ønsker meg et apparat med myndighet til å veilede forskere og bedrifter. Ikke med bøter, men veiledning, kanskje fra et framtidig AI-tilsyn. Vi har mye god forskning, men ikke veldig mange spektakulære AI-løsninger å vise til i Norge, sa Strümke.

Frykter manipulasjon

En som er nokså sikker på at bruken av kunstig intelligens bør reguleres, er Forbrukerrådets Finn Myrstad. I en debatt etter Tangen og Strümkes samtale, oppfordret han oljefondet til å stille strengere krav til selskapene de investerer i.

– Det er mange flotte visjoner for KI, som brukt riktig, kan gi bedre liv, men jeg er redd for at de kreftene som er tyngst inne i utviklingen er selskaper som er ute etter å utnytte persondata. De har brukt masse penger på å utvikle sine KI-modeller. Jeg er redd for at de kommer til å bruke dette til å målrette annononser enda mer presist mot oss, sa Myrstad.

Han frykter at teknologien vil bli brukt til manipulasjon, og er særlig bekymret for påvirkningen av ungdom.

– Jeg håper jeg tar feil, og at det blir i hovedsak en positiv bruk av KI, men nedsidene er litt store, sa Myrstad.

Hans mot- eller med-debattant, Svein Størmer Thaulow i Schibsted, understreket at de har gitt seg selv strenge regler ved bruk av kunstig intelligens, men at han i all hovedsak er positiv til teknologien.

Trenger rødruss i styrerommene

Han uttrykte ønske om at vi må la utviklingen ta i bruk teknologien uten begrensninger som kan strupe innovasjon.

– Det kommer ting som kan være farlig, men i utgangspunktet er dette superinteressant teknologi, og jeg er superoptimist, sa han.

Thaulow oppfordret oljefondet til å bruke sin innflytelse til å få inn teknologer med innsikt i KI i styrene i bedriftene der de investerer.

– Det er viktig å ha folk i toppledelsen av bedriftene som forstår hva dette er. Vi trenger rødruss i bedriftsstyrene, det holder ikke med bare blåruss nå. Alle styrer bør spørre seg om de har folk i ledergruppa som skjønner seg på KI. Det er ikke akseptabelt at ledelsen neglisjerer dette området, sa han.