Agenter løper løpsk – derfor klarer ikke virksomheter å styre dem

Eldar Lorentzen skriver i DN at norske virksomheter ansetter tusenvis av digitale medarbeidere uten at noen har personalansvaret. Jeg deler bekymringen, og jeg er enig i mye av det han skriver: Agenter trenger et mandat, en tydelig eier og noen som følger med på hva de gjør. Der vi skiller lag, er i synet på hvor mye av dette som er nytt. Jeg mener god styring av agenter må bygge på grunnsikringen vi allerede kjenner, selv om autonomien og handlingsrommet deres gir noen nye utfordringer.

En agent som leser innboksen din, henter data fra økonomisystemet og sender en betaling, er mer enn et tradisjonelt dataprogram. Den tolker, velger og handler på egen hånd. Men den gjør det med en digital identitet og et sett rettigheter, enten det er en egen agentidentitet, en tjenestekonto eller en delegert brukeridentitet. Om vi kaller den en kollega eller et system, er mindre viktig enn hvilke tilganger den har. Identiteter og tilganger har vi forvaltet i over tretti år. Vi vet godt at de skal ha en eier, de skal bare ha tilgang til det de trenger, noen skal lese loggene, og når jobben er gjort skal de skrus av. Det er her problemet ligger, og mange virksomheter har ikke fått dette til, selv før KI kom på banen.

Samme svakheter

Det er ikke første gang teknologien løper fra styringen. Tidligere har jeg skrevet om en markedssjef som bygde en kundeapp i lunsjpausen. Appen tok imot personnummer og la de digitale adgangsnøklene ubeskyttet i klartekst i koden. IT-avdelingen visste ikke engang at appen eksisterte. Med agentene tar denne utviklingen et langt større sprang. Det er ikke lenger bare folk som lager løsninger, men løsninger som handler på egen hånd. Likevel er svakhetene de samme: Ingen har oversikt over hvem og hva som har tilgang til hva, og altfor mange har tilgang til mer enn de trenger.

En undersøkelse Accenture gjennomførte blant mer enn 2200 sikkerhets- og teknologiledere viser at 77 prosent mangler grunnleggende styring og tekniske tiltak for å sikre data og KI. Bare en av fire utnytter kryptering og tilgangskontroll fullt ut. Nasjonal sikkerhetsmyndighet pekte også i Risiko 2026 på at ansatte i norske virksomheter har fått roller i sikkerhetsarbeidet som de verken kjenner til eller har kompetanse til å fylle.

Når grunnsikringen og kompetansen ligger på dette nivået, hjelper det lite å bygge egne styringsmodeller for agentene alene. Da legger vi bare et nytt lag med styring oppå et fundament som allerede er for svakt.

Om vi leser OWASPs (en stiftelse som utgir anerkjente råd om sikkerhet i programvare og KI) liste over de største risikoene ved KI-agenter, ser vi fort at det i stor grad er kjente utfordringer som misbruk av identitet, for vide rettigheter og svakheter i leverandørkjeden som er listet opp. Det som er nytt, er farten og handlingsrommet. En agent med for vide tilganger kan rekke å gjøre mye skade før noen oppdager det. Dette er et argument for å stramme inn og videreutvikle det vi allerede gjør, ikke for å begynne på nytt.

Hvem eier agentene?

Samtidig er det viktig at ledelsen ikke lener seg for langt tilbake. Lorentzen har rett i at ingen produkter kan bestemme hvilken risiko selskapet skal ta. Mange virksomheter opplever at de må ta i bruk KI for å holde tritt med konkurrentene, og nettopp derfor bør ikke styret vente på et nytt rammeverk. De kan allerede i morgen spørre IT-sjefen hvor mange agenter som kjører, hvem som eier dem og hvilke tilganger de har. Om det ikke kommer et klart svar, så vet de i hvert fall hvor de skal begynne.

En annen ting jeg vil ta opp, som ikke blir nevnt ofte, er at vi har lært at vi trenger en exit-strategi fra skyen, men vi trenger også det samme for KI. Hvis agenten må skrus av eller om leverandøren forsvinner, så trenger vi fortsatt folk som kan gjøre jobben. Den som henter ut gevinster fra KI, må samtidig sørge for å beholde nok kompetanse til å klare seg uten.

Så hvem er det som holder agentene i ørene? Det må du og jeg gjøre, Eldar, sammen med ledere og fagmiljøer i hele næringslivet. Og vi bør gjøre det med utgangspunkt i sikkerhetsprinsipper og god praksis som har eksistert lenge, og som vi hele tiden må forbedre.