IT-POLITIKK

AI-pause kan gjøre Norge til teknologi-taper

− Det er åpenlyst at man bør ha på plass regulering, men å sette Norge på standby i noen år, kan vise seg å være veldig uheldig, skriver advokat John E. Nilsen i dette innlegget.

− At Fylkesnes og Hussein fremmer bekymringer angående bruk av kommersiell KI i det offentlige, er også forståelig, men med et totalforbud misforstår man teknologiens potensial og nødvendighet, skriver Nilsen.
− At Fylkesnes og Hussein fremmer bekymringer angående bruk av kommersiell KI i det offentlige, er også forståelig, men med et totalforbud misforstår man teknologiens potensial og nødvendighet, skriver Nilsen. Foto: Mats Bakken
Advokat John E. Nilsen, Advokatfirmaet Berngaard AS
24. mai 2023 - 11:43

Tidligere i mai foreslo SV stopp i bruken av kunstig intelligens i offentlig sektor.

Det er på sin plass at kunstig intelligens (AI/KI) skal reguleres. At Torgeir Knag Fylkesnes og Marian Hussein fremmer bekymringer angående bruk av kommersiell KI i det offentlige, er også forståelig, men med et totalforbud misforstår man teknologiens potensial og nødvendighet.

SV ønsker at forbudet skal vare frem til et regelverk for bruk og innføring av KI er utviklet. I forslaget tar man imidlertid ikke høyde for at EU allerede er på god vei til å utvikle noe ut av det første regelverket for bruk og innføring av KI i verden.

Dette regelverket vil imidlertid tidligst vedtas mot slutten av 2023 eller i 2024.

Norge har allerede sendt inn sitt posisjonsnotat, hvor Norge er positiv til EUs tilnærming.

Dette er saken

Den 9. mai leverte Torgeir Fylkesnes og Marian Hussein et representantforslag om AI/KI og dataøkonomi. Hovedbudskapet: Det er på tide å trekke i nødbremsen.

SV foreslår tre beslutninger, som nå skal behandles av en komite før de eventuelt kommer tilbake til Stortinget:

  1. Stortinget ber regjeringen umiddelbart innføre et moratorium i offentlig sektor mot å ta i bruk nye kommersielle verktøy som bygger på kunstig intelligens. Moratoriet må vare fram til et regelverk for innføring og bruk av kunstig intelligens for ulike bruksområder er utviklet. 
  2. Stortinget ber regjeringen utvikle en konsesjonsordning for innsamling, bruk og lagring av både offentlige data og persondata for kommersielle aktører. En slik konsesjonsordning må legge krav til hvilke data som kan brukes, til hvilke typer formål, hvor og hvordan de lagres og om og hvordan de kan deles med ulike tredjeparter. 
  3. Stortinget ber regjeringen levere en stortingsmelding om kunstig intelligens som redegjør hvordan det arbeides med kunstig intelligens på alle nivå i alle sektorer.

I et intervju med Digi forteller Fylkesnes at det haster å regulere og at SV mener en ikke kan hoppe bukk over etikken for å ta i bruk ny teknologi. Han vil trekke opp et skille mellom teknologi man uansett må bruke, som Microsoft-porteføljen, og mer alvorlig bruk av AI.

Regulering av AI står på agendaen flere steder i verden. I EU skal parlamentet allerede i juni stemme over et forslag kalt The AI Act.

Alle blir tapere

Slik dagens rettstilstand står, har Norge to alternativer:

  1. Norge kan utvikle et eget regelverk, sette ned grupper og komiteer, for så å vedta et regelverk om noen år, eller
  2. Norge kan vente til EU har vedtatt sitt regelverk, for så raskt å implementere det etter en runde i EFTA for å vurdere relevansen av regelverket – noe som også vil ta år.

Uansett hvordan man vrir og vender på forslaget, sitter man igjen med at det offentlige ikke får ta i bruk KI all den tid man ikke har på plass en regulering.

Hvem sitter igjen som vinnere med et slikt forslag?

Det er her lettere å snu fortegnet og spørre seg hvem sitter igjen som taperne? Rettere sagt teknologitaperne. Svaret er åpenlyst – alle, inkludert teknologiselskap i alle størrelser, det offentlige selv og ikke minst brukerne.

Må se til EU

Fylkesnes synes å trekke en grense mellom generativ KI, som fungerer som en assistent – eksempelvis Microsoft Copilot, og store KI-prosjekt som det offentlige skal anskaffe.

Førstnevnte mener Fylkesnes det er i orden å bruke.

Mye ut av dagens KI bygger på de samme grunnmodellene og store språkmodeller, som GPT-3 og -4 og PaLM-2.

Det har altså lite å si om du utvikler en offentlig chatbot hvis den bygger på eksempelvis GPT-4 eller om dine offentlige ansatte bruker ChatGPT eller Copilot i sin arbeidshverdag – dine data kan fortsatt gå inn i treningen.

Hvis forslaget bygger på at man ikke vet hva som skjer i et KI-system, ønsker å ha kontroll på dataflyt og sikre integritet, blir argumentasjonsrekken til SV lite treffende all den tid man trekker grensen slik Fylkesnes foreslår.

Artikkelen fortsetter etter annonsen
annonse
Innovasjon Norge
Store muligheter for norsk design i USA
Store muligheter for norsk design i USA

Her bør man heller lene seg på EUs klassifisering av KI-system, på samme måte som i forslaget til AI Act.

For helse og andre offentlige instanser vil typisk de fleste systemer regnes for å være høyrisiko og følgelig underlagt en rekke krav, blant annet datastyring, transparens, robusthet, informasjonsplikt med mer.

I tillegg vil AI Act regulere grunn-modellene og oppstille krav til at hele næringskjeden ivaretar de samme forpliktelsene som utvikleren av grunnmodellen. Dermed vil for eksempel chatbotten som bygger på grunnmodellen være underlagt de samme forpliktelsene.

Bedre måter å sikre Norges verdisett på

Det må også rettes søkelys på grunnleggende rettigheter, som personvern, likestilling med mer.

Her mener Fylkesnes at den eneste riktige måten å sikre disse rettighetene på, er ved å forby kommersiell KI. Forslaget synes imidlertid ikke å ta høyde for dagens teknologiske løsninger, som nettopp sikrer disse rettighetene.

En av disse er bruk av lokal API som behandler data lokalt og unngår at egne data sendes til eksterne servere hos utviklerne – og man kan sikre egen dataflyt.

Videre har man allerede en selvstendig plikt til å sikre at personopplysninger behandles i tråd med personvernregelverket, blant annet ved å implementere organisatoriske og tekniske tiltak. Her kan det offentlige implementere ytterligere organisatoriske og tekniske tiltak for å sikre at personopplysninger ikke havner på avveie, som anonymisering og kryptering.

Dermed vil man ikke nødvendigvis ha behov for forbudet SV foreslår.

Verken Skynet eller 1984

Det er åpenlyst at man bør ha på plass regulering, men å sette Norge på standby i noen år kan vise seg å være veldig uheldig for Norge som land og som en kommersiell aktør.

Samtidig bør man ikke åpne alle slusene og la KI-tilbydere strømme inn i en så vital del av samfunnet som det offentlige er.

Så hva er riktig å gjøre?

Etter mitt syn bør man «plukke de jordbæra man har», forkaste forslaget og implementere tekniske løsninger som kan sikre effektivitet, nytenking og ikke minst kommersielt driv i påvente av EUs regelverk.

For det er verken Skynet eller 1984 vi har med å gjøre.

Les også

Avholdt Norges første stortingsdebatt om kunstig intelligens

Del
Kommentarer:
Du kan kommentere under fullt navn eller med kallenavn. Bruk BankID for automatisk oppretting av brukerkonto.