Det siste året har generativ AI tatt enorme byks. I kjølvannet av ChatGPT fosser det fram både små og store aktører med AI-funksjoner som for kort tid siden var science fiction. Samtidig hersker det bortimot lovløse tilstander, der det i stor grad er opp til hver enkelt aktør å følge sine egne spilleregler.
Hva slags krav bør stilles til AI-generert innhold? Vil strammere tøyler bremse den høye innovasjonstakten? Hvor går grensen mellom lovreguleringer, retningslinjer og etiske vurderinger?
EU-forskriften om kunstig intelligens (The AI Act) ble i midten av juni godkjent av EU-parlamentet. Dette betyr at EU i løpet av 1-2 år har innført en lov som ikke bare vil gjelde i EU-landene, men som også vil sette standarden for store deler av verden.
– Jeg mener at AI-loven vil få langt raskere utbredelse enn EUs personvernforordning GDPR. Men de vil sameksistere tett. Personvern blir enda mer sentralt framover.
Dette sier Wenche Karlstad, Head of Digital Sovereignty Initiatives i Tietoevry. Hun er en av de som over tid har fulgt prosessen tett.
Selv om det gjenstår en forhandlingsrunde med EU-kommisjonen og Ministerrådet før loven bankes gjennom, forteller utkastet mye om det fremtidige rammeverket for bruken av AI-systemer.
.jpg)
– Dette er verdens første regulativ på AI, og noe alle som utvikler eller ruller ut AI-applikasjoner i Europa vil måtte forholde seg til, understreker Karlstad.
Også leder ved Institutt for informasjons- og medievitenskap ved Universitetet i Bergen, Marija Slavkovik, mener AI Act vil få stor betydning.
– Selv om det er mange som har innvendinger, trenger vi å regulere bruken av kunstig intelligens. Det vi ser nå er starten på en ny epoke med automatisering.
Karlstad tror vi såvidt har begynt å se konturene av hva AI kan gjøre for oss. Hun nevner noen av anvendelsesområdene:
Lista over områder der AI vil gripe inn i hverdag og arbeidsliv er endeløs.
– Til syvende og sist vil AI kunne gi en merverdi for hele samfunnet, sier Karlstad.
Den kommende EU-forskriften klassifiserer AI-applikasjoner ut fra graden av risiko. Skalaen har fire nivåer: uregulert, begrenset risiko, høyrisiko og uakseptabel.
– Det som går på vilkårlig sosial overvåkning i sanntid blir for eksempel helt forbudt. Høyrisiko-kategorien innebærer en del krav til blant annet registrering, risikovurdering og merking.
Alle som dette er relevant for bør allerede nå forberede seg på de kommende lovreguleringene og hva de vil bety. De som ikke gjør det kan risikere sanksjoner, sier Karlstad.
Hun fremhever at EU-forskriften ikke bare har som mål å legge begrensninger på AI. Den har også som mål å fremme innovasjon.
– EU vil styrke Europas posisjon på et område der USA og Kina dominerer. AI-lovforslaget er i så måte et bevisst grep fra Europakommisjonens president Ursula von der Leyen.
Ved å etablere tydelige retningslinjer kan det skapes mer forutsigbare rammevilkår.
For EU ligger det et ønske om å styrke Europas digitale suverenitet i bunn. I et større perspektiv handler det både om teknologisk og økonomisk vekst, og om å sikre borgernes fundamentale rettigheter og verdier.
Troverdighet er et nøkkelord når det kommer til bruken av AI. Man skal vite hvor dataene befinner seg og hvordan de er sikret. Men som forbruker skal man også – som NTNU-forsker og «Maskiner som tenker»-forfatter Inga Strümke har poengtert – få innblikk i hvordan teknologien virker.
Hva er «ekte» og hva er AI-skapt? Hvilke veier tar dataene i en stadig mer sammenvevd verdikjede? Når er de grunnleggende rettighetene våre i fare?
– Det er vel så spennende når vi beveger oss forbi det som omfattes av regulativer og over til etiske prinsipper. Risikovurderinger og teknisk dokumentering er aller viktigst i høyrisiko-kategorien, men alle som benytter seg av AI har et ansvar, sier Karlstad.
Dette ansvaret kan innebære etiske dilemmaer.
– Hvordan skal man for eksempel veie ønsket om å spille med åpne kort opp mot behovet for å verne om bedriftskritisk informasjon, uønsket diskriminering i ansettelsesprosesser, eller bekymringer rundt personvern ved bruk av sensitiv informasjon?
De som evner å forklare sine vurderinger og tydeliggjøre ansvarlighet i utvikling og bruk av AI vil ha et fortrinn.
Lurer du på hvordan Data, Cloud og AI kan bli regulert i fremtiden?
Begrepet ansvarlig AI har blitt stadig mer relevant for alle som implementerer AI-teknologi.
– Da handler det ikke bare om en holdning, men om å innarbeide klare retningslinjer – noe Tietoevry allerede har gjort ved å implementere sine prinsipper rundt ansvarlig AI.
Karlstad mener AI alltid bør vurderes ut fra etiske perspektiver. Da trengs det interne kontrollprinsipper og risikovurderinger i tillegg til lovverket.
Slavkovik ved UiB tror etikken blir ekstra verdifull når AI-teknologien utvikler seg så raskt som den gjør nå.
– Men enkeltpersoner har forskjellig toleranse for hvilke verdier de er villige til å ofre. Vi trenger en policy for å lette byrden med å håndtere de sosiale dilemmaene.
– Som professor i kunstig intelligens og leder av avdelingen som utdanner AI-fagpersoner, er jeg opptatt av å ta «integrert i AI-etikk»-aspektet på alvor, og vi har det som en del av våre kurs, fortsetter hun.
Selvregulering er ekstra viktig på et felt der et mylder av utviklere og tilbydere benytter modeller skapt av teknologigiganter som Microsoft og Google.
– Bank og finans er sektorer som har vært flinke til selvregulering. Ved å definere et internt rammeverk, kan man skape trygghet og tillit uavhengig av hva som måtte komme av lovreguleringer på toppen.
Karlstad mener den største utfordringen er at små og mellomstore bedrifter ikke har tilstrekkelig kapasitet til å navigere i komplekse regelverk for så å oversette justekster til forretningsforståelse.
– De kan se skiftende lover og regulativer som en hindring. Men jeg hilser AI-lovforslaget velkommen. Både norske og de fleste andre myndigheter er i startgropa på dette området.
Digitaliseringsdirektoratet (Digdir) har nylig lagt fram en veiledning for ansvarlig AI-bruk i offentlig sektor. Organisasjoner som Teknologirådet har AI på agendaen, Datatilsynets regulatoriske sandkasse for kunstig intelligens er et annet eksempel på tiltak.
Den teknologiske utviklingen foregår i et tempo det er vanskelig å henge med på. Spørsmålet er om ethvert AI-lovverk er dømt til å være utdatert allerede før det trer i kraft.
Organisasjoner bør uansett være i forkant ved å analysere og innlemme den kommende lovgivningen i sine strategier for data, sky og generativ AI. En ny rapport fra Tietoevry gir innsikt fra EU-institusjoner, nordiske beslutningstakere og sikkerhetsspesialister om suverenitet, sikkerhet og bærekraft.
