I mange styrerom diskuteres det fortsatt hvordan kunstig intelligens (KI) skal tas i bruk. Men spørsmålet er utdatert. KI er ikke på vei inn i organisasjonen. Den er der allerede.
Den brukes av kundeservice til å håndtere henvendelser. Av HR til å sortere kandidater. Av økonomiavdelingen til analyser. Av jurister til kontraktsgjennomgang. Av ansatte som oppsummerer møter, skriver rapporter og bearbeider dokumenter med KI-verktøy de har funnet selv. Noen bruker gratisversjoner av Chat GPT eller Copilot. Andre har koblet seg på løsninger verken IT-avdelingen eller ledelsen kjenner til.
Konsekvensene er konkrete. Når noe går galt, og det vil det, kan ledelsen stå uten svar på spørsmål de burde hatt kontroll på. Hvorfor ble beslutningen tatt? Hvilke data lå til grunn? Hvem hadde ansvar? Revisor spør. Datatilsynet spør. Styret spør. Kundene spør. En KI-policy i Sharepoint er ikke kontroll. Kontroll er å vite hva som faktisk skjer i virksomhetens arbeidsprosesser.
Uoppdagede «feilmeldinger»
Paradokset er at mange virksomheter i dag har bedre kontroll på kaffemaskinene sine enn over hvilke KI-verktøy som påvirker kritiske beslutningsprosesser. Det burde bekymre flere. For dette handler ikke først og fremst om teknologi, men om virksomhetsstyring.
Tradisjonelle systemer var stabile, med tydelige ansvarsforhold og revisjonsspor. KI fungerer annerledes. Resultater påvirkes av data, kontekst, brukeradferd, modellendringer, ofte uten forvarsel. To ansatte kan få ulike svar fra samme verktøy.
Det gjør KI-feil ekstra krevende. Tradisjonelle systemer gir feilmeldinger. KI gir et svar som kan virke overbevisende, uten å være riktig.
Mangel på styring
Vi møter stadig virksomheter med KI-strategier og retningslinjer på plass, men sliter med å svare på de mest grunnleggende spørsmålene – som hvor KI brukes, hvem som har ansvar, hvilke beslutninger som påvirkes og hvordan kontrollmekanismene dokumenteres.
Når disse spørsmålene er vanskelige å besvare, er ikke utfordringen mangel på strategi. Det er mangel på styring.
Dette er spesielt viktig i sektorer som helsevesen, finans og offentlig forvaltning. Her trenger ikke KI å ta den endelige beslutningen for å påvirke utfallet.
I helsevesenet testes det nå verktøy som lytter til pasientsamtaler, transkriberer dem og lager sammendrag til journalen. Målet er forståelig – klinikere bruker for mye tid på dokumentasjon, og bedre verktøy kan frigjøre verdifull tid. Men selv når verktøyet verken foreslår diagnose eller behandling, former det likevel informasjonen klinikeren tar med seg videre.
En lang samtale blir kortet ned til et kort sammendrag, og med det følger spørsmål organisasjonen må ha svar på: Hvordan oppdages feil? Hvem har ansvaret hvis sammendraget er misvisende? Og hvordan følges risikoer som modelldrift, hallusinasjoner eller endringer i den underliggende KI-modellen over tid? Menneskelig godkjenning er viktig, men det er ikke det samme som kontroll.
Virksomheten har ansvaret
Det er en utbredt misforståelse at Ki-styring (AI governance) bremser innovasjon. I realiteten er god KI-styring det som legger grunnlaget for å skalere KI. Den gjør det mulig for virksomheter å innovere med trygghet og omsette lovende KI-initiativer til pålitelig og bærekraftig forretningsverdi.
God KI-styring krever oversikt over hvor KI brukes, dokumentasjon av formål, data og ansvar, løpende overvåkning og evnen til å dokumentere dette overfor styret, kunder og tilsyn.
Verdien av KI avgjøres ikke bare av hvor raskt teknologien tas i bruk, men av hvor godt virksomheten klarer å styre den. For kunder, eiere, styremedlemmer og regulatorer er det til syvende og sist ikke teknologien som holdes ansvarlig. Det er virksomheten.
Zuckerberg utvikler personlig «CEO-agent»
