Hva skjer når ingen lenger kan gjøre jobben uten KI?

Se for deg en virksomhet som tar i bruk kunstig intelligens (KI) i kundeservice. Innledningsvis kontrollerer erfarne medarbeidere alle svarene. Tilgangen til kundesystemene er begrenset, og feil fanges opp før de får konsekvenser. Resultatene er gode.

Så skaleres løsningen. Flere saker behandles automatisk. KI får tilgang til flere systemer og flere fullmakter. Bemanningen reduseres. De som tidligere kontrollerte arbeidet, får andre oppgaver.

Modellen kan være like god som før. Likevel kan virksomheten være blitt mer sårbar. Flere beslutninger tas automatisk, mens færre mennesker har kompetanse, kapasitet og erfaring til å gripe inn.

En vellykket pilot kan dermed bli brukt til å bygge ned forutsetningene for at den lykkes.

Effektivitet og robusthet

KI kan frigjøre tid, redusere kostnader og forbedre kvaliteten. Men effektivitet og robusthet er ikke alltid det samme.

Gevinsten kan brukes til bedre opplæring, sterkere kontroll og økt beredskap. Hvis den utelukkende tas ut som lavere bemanning og høyere tempo, kan virksomheten samtidig svekke evnen til å håndtere feil og avvik.

Over tid kan medarbeidere bli dyktige brukere av verktøyene uten å beherske oppgavene verktøyene utfører. Samtidig kan arbeidsmengden vokse ut over det organisasjonen realistisk kan håndtere manuelt.

Da blir «vi kan alltid ta over» mindre en reserveplan og mer en antakelse.

Når systemene svikter

Da Norsk Hydro ble rammet av et cyberangrep i mars 2019, bidro manuelle rutiner og medarbeidernes kompetanse til å holde deler av virksomheten i gang. Flere anlegg opplevde likevel produksjonsstans.

Hendelsen illustrerer verdien av alternative arbeidsmåter ved systemsvikt. Reservekapasitet krever også kompetanse, erfaring og tilgang til nødvendig informasjon.

Når KI bygges inn i kritiske prosesser, må ledelsen avklare hvilke oppgaver som fortsatt skal kunne utføres ved svikt, hvor lenge og med hvilken kapasitet. Alternative systemer eller kontrollert stans kan også inngå i planen.

Når KI tas i bruk, bør ledelsen skille mellom tre spørsmål.

Evne: Kan systemet utføre oppgaven?

Pålitelighet: Leverer systemet riktige resultater under forholdene virksomheten faktisk møter?

Myndighet: Hvilke beslutninger og handlinger får systemet lov til å gjennomføre?

At en modell skriver gode kundesvar, betyr ikke nødvendigvis at den bør få endre kundeavtaler, flytte penger eller fatte beslutninger på egen hånd.

Jo større konsekvensene av en feil er, jo viktigere blir kontrollen og muligheten til å reversere handlingene.

Menneskelig kontroll oppstår ikke automatisk fordi noen trykker på en godkjenningsknapp. Den som skal kontrollere, trenger kompetanse til å vurdere resultatet, informasjon om konsekvensene og tid til en selvstendig vurdering.

Øv på å overta

Før virksomheten bygger ned bemanning, opplæring eller reservekapasitet, bør den teste hva som skjer hvis KI-løsningen gir feil svar, handler feil eller blir utilgjengelig.

Hvem oppdager feilen? Hvem kan stanse løsningen? Hvem kan utføre arbeidet uten den, og hvor lenge?

Beredskapen må inngå i regnestykket for KI-gevinsten. Målet trenger ikke være full manuell drift. Men virksomheten må ha prøvd om den kan opprettholde de viktigste funksjonene med den kapasiteten den har planlagt for.

Vi kan ta feil om KIs fremtid. Derfor bør virksomheten beholde handlingsrommet til å endre kurs hvis virkeligheten blir annerledes enn forventet.

Hvis KI-løsningen gjør feil eller blir utilgjengelig i morgen, hva gjør virksomheten da?

Det bør ledelsen ha prøvd i praksis før neste fullmakt gis og neste gevinst tas ut.

«Skuddsekund»
kan bli en time