KUNSTIG INTELLIGENS

Hei ChatGPT, hvorfor skal vi bry oss om The AI Act?

Mange mener vi befinner oss midt i en av de største teknologiske revolusjonene i historien – den fjerde industrielle revolusjonen. Buzz-ord som kunstig Intelligens, chatbot, maskinlæring og robotikk diskuteres rundt lunsjbord og i de tusen hjem. Men hvor står myndighetene i denne debatten, og hva gjøres bak kulissene for å sikre oss?

Hva innebærer egentlig EUs The AI Act, og trenger vi et slikt rammeverk? Det er dette Espen Rahd, senior informasjonssikkerhetskonsulent i Watchcom Security Group, tar for seg i denne kronikken.
Hva innebærer egentlig EUs The AI Act, og trenger vi et slikt rammeverk? Det er dette Espen Rahd, senior informasjonssikkerhetskonsulent i Watchcom Security Group, tar for seg i denne kronikken. Foto: Watchcom
Espen Rahd i Watchcom Security Group
1. mai 2023 - 11:41

Med lanseringen av Artificial Intelligence Act (AIA) i april 2021 tok EU igjen en ledende rolle i å regulere den digitale verden – og med det et viktig skritt mot kontroll av bruken av kunstig intelligens.

Hovedformålet med AIA er å beskytte EU-borgere mot risikoen for urettferdig eller forstyrrende bruk av AI. Norge vil adoptere forordningen via EU/EØS-samarbeidet, og det er nå vi har et handlingsrom for å spisse lovverket til norsk «standard». Er det for eksempel greit å bruke AI i Nav-systemet for å avdekke trygdesvindel?

Hvordan henger det egentlig sammen?

Med «Artificial Intelligence (AI)» – kunstig intelligens (KI) på norsk – menes utvikling av datasystemer som kan lære av tidligere erfaringer (menneskelige) og løse kompliserte problemer (umenneskelige) i ulike miljøer og situasjoner.

To av årsakene til den ekspansive AI-utviklingen er teknologifremskritt og kostnadsreduksjon på datakraft og lagring.

Men selv om AI og ChatGPT er på alles lepper, blir diskusjonen fort komplisert og vanskelig når man beveger seg inn på teknologiene bak disse systemene. En viktig ting å tenke på er at vi ikke helt vet hvordan algoritmene kommer frem til svaret i de nye selvlærende kjempemodellene, da de utvikles løpende av systemet selv. Skal de ta avgjørelse på søknader om lån, jobb og trygd? Vil vi ikke ha en forklaring på avslaget?

Ishita Barua er medgründer og medisinsk ansvarlig i startupen Livv Health, som holder til ved Rebel i Oslo. Legen med doktorgrad om kunstig intelligens (KI), håper at flere kvinner vil velge en utdannelse som kombinerer helse og teknologi.
Les også

Tror KI kan korrigere ubevisste fordommer hos leger

The AI Act – organisering og formål

Lovgivningen definerer kravene for utvikling, utplassering og bruk av kunstig intelligens (AI) innenfor EU. Personvern, bærekraft og samarbeid med tilsynsmyndighetene er noen av prinsippene i det nye lovverket, som med sin risikobaserte tilnærming har som mål å regulere kunstig intelligens. Høyrisikoapplikasjoner som utgjør cirka 15 prosent av alle AI-systemer, som for eksempel ansiktsgjenkjenning i offentlige områder og autonome kjøretøy, vil være underlagt strengere krav enn lavrisikoapplikasjoner, som for eksempel «vanlige» chatbots.

AIA inneholder krav til risikovurdering, sertifisering, dokumentasjon og tilsyn for å sikre at kunstig intelligens utvikles og brukes på en trygg og ansvarlig måte, samtidig som det tas hensyn til menneskerettigheter og personvern. I tillegg har AIA som mål å fremme innovasjon og forskning, noe som krever åpenhet og samarbeid på tvers av landegrenser.

Kan The AI Act temme trusselaktørene?

Trusselaktørene utnytter mulighetsrommet og tar ikke hensyn til risikogrupper og lovverk. Kan vi forvente at det er her den store cyberkrigen vil utspille seg? Og hvilken skade kan trusselaktørene utrette med AI?

I 2026 vil over 90 prosent av all (des)informasjon på internett være AI-produsert, ifølge Interpol. Trusselaktørene kan manipulere algoritmer og de enorme datamengdene som finnes, noe som kan være vanskelig å oppdage før det er for sent. Risikoen er da at AI-systemet tar beslutninger på feil (og manipulert) grunnlag. Skadeomfanget kan en bare spekulere på, men for dem som opererer i gråsonen, ligger det store «muligheter» her.

Tiden er inne for å samarbeide, tenke nytt og lære. For å få en felles forståelse må anerkjente internasjonale standarder og rammeverk benyttes for å etterleve nye internasjonale og nasjonale lover. Dette vil bidra til å styrke sikkerheten og ikke minst tilliten til teknologien i et stadig mer sammenkoblet samfunn.

Er det for sent, eller redder The AI Act dagen?

Det tok Netflix 3,5 år å nå én million brukere. Instagram brukte 2,5 måneder. Det tok ChatGPT fem dager. Nå har de 100 millioner månedlige aktive brukere. Og det er selvfølgelig de store tech-selskapene i USA og Asia, med mest datakraft og kapital, som har full kontroll og makt over dette brennhete markedet. I 2026 vil kunstig intelligens ha sitt stempel på opp mot 200 milliarder dollar bare i EU, spår flere analytikere.

Nå mener lederne i disse virksomhetene, bransjefolk og noen forskere at det går for fort. Reguleringene holder ikke tritt med utviklingen. Flere nasjoner strammer grepet, for eksempel i Italia, hvor ChatGPT (Open AI) blir etterforsket for brudd på GDPR-direktivet, da brukere fikk opp andres chattehistorikk når de logget inn. Trusselaktørene er som vanlig på ballen.

Jan-Erik Vinje leder Pause AI i Norge. Den frivillige organisasjonen vil ha på plass lover og regler som regulerer den eksplosive utviklingen innen generell kunstig intelligens.
Les også

Kun Jan-Erik møtte på KI-protest: – Vi spiller russisk rulett med menneskeheten

Å redde verden fra en AI-apokalypse ved å fryse forskning og utvikling i seks måneder, er nok ikke veien å gå. Ei heller å kneble utviklingen med kompliserte lover som blir utdatert før de trer i kraft. Vi ønsker vel heller ikke å gi Kina en fordel i denne revolusjonen?

Artikkelen fortsetter etter annonsen
annonse
Innovasjon Norge
Store muligheter for norsk design i USA
Store muligheter for norsk design i USA

La oss heller sikte inn på, så raskt som mulig, å etterleve det nye direktivet. Blir det endelige direktivet godkjent i 2023, har man 12-24 måneder (2025) på å innrette seg til forordningen. La oss fremme en ansvarlig og etisk AI-forskning på området og sørge for åpenhet og samarbeid i AI-fellesskapet.

AIA er til god hjelp på veien. I tillegg til å ha en positiv innvirkning på europeisk AI-utvikling, kan AIA også sette standarden for den globale forståelsen av sikrere og mer ansvarlig bruk av AI-teknologi. Frem til AIA er effektuert, har vi noe overlappende regelverk som GDPR å forholde oss til (ref. Italia).

Det er viktig med riktig tilnærming for å kunne dra nytte av de enorme mulighetene som AI-teknologi kan tilby, samtidig som man opprettholder et høyt nivå av sikkerhet. The AI Act er en god start på et etterlengtet og nødvendig lovverk.

Dersom det kan samarbeides godt mellom eksperter og forskere på feltet, kan vi sikre at teknologien utvikles på en måte som er gunstig for samfunnet og beskytter oss mot mulige farer. Naivt kanskje, men vi er teknologioptimister. Tross alt finnes det ingen trusler fra selve AI-teknologien, det er heldigvis fortsatt vi som har kontroll og som utgjør trusselen.

Opera One får støtte for lokale KI-modeller som kan velges av brukeren. Disse fire modellene er kun et lite utvalg.
Les også

Norsk nettleser først ut med KI-grep

Del
Kommentarer:
Du kan kommentere under fullt navn eller med kallenavn. Bruk BankID for automatisk oppretting av brukerkonto.