I sommer avslørte OpenAI at flere eksperimentelle KI-modeller tok seg ut av et lukket testmiljø for å løse en cybersikkerhetstest. I jakten på fasiten konkluderte modellene med at Hugging Face satt på svaret, og skaffet seg deretter uautorisert tilgang til selskapets systemer. Kort tid senere oppdaget Anthropic at også deres egne modeller hadde skaffet seg uautorisert tilgang til eksterne systemer.
Det mest interessante er at ingen av modellene forsøkte å «rømme». De gjorde det de var instruert til å gjøre.
Én hendelse kan være en glipp. Når det samme skjer hos flere av KI-industriens tungvektere, må man lure på om problemet er teknologien eller kulturen rundt den.
Likevel omtales hendelsene som uheldige uhell. Man rydder opp, publiserer et blogginnlegg og går videre.
For/mot er feil spørsmål
Da kritikken mot Metas KI-briller tiltok, svarte digitaliseringsminister Karianne Tung at vi ikke kan forby alt vi ikke liker. I Arendal advarte Tekna-sjef Øyvind Husby mot politisk KI-svartmaling.
Det er et pussig utgangspunkt. Spørsmålet er ikke om vi liker teknologien, men hvilke problemer den løser, hvilke risikoer den skaper, og hvem som sitter igjen med ansvaret når noe går galt.
I debatten om de såkalte pervo-brillene har Karianne Tung etter hvert erkjent at ansiktsgjenkjenning er en utfordring. Problemet er hvis debatten stopper der. Den egentlige utfordringen er at insentivene belønner stadig mer innsamling av informasjon fra omgivelsene, mens ansvaret skyves over på brukeren.
Er det virkelig ønskelig at folk må be hverandre pent om å skru av kameraet på gaten, skolen, svømmehallen, sykehus og NAV? Hvis de overhode merker at kamera er på, og uten noen reelle verktøy for etterlevelse. Skal folkeskikk være siste skanse? Et samfunn der kameraet alltid kan være på, har en pris.
Risikoen ligger ikke bare i innsamlingen. Opptak kan lagres, analyseres, deles og kobles med andre data. De kan bodyshame, mobbe og stalke. Politiet sliter allerede med folk som filmer ulykker med mobiltelefonen. Lærere forteller at elever kvier seg for å si meningene sine om kontroversielle temaer.
Problemet er ikke bare at noen filmer. Problemet er også hva opptakene kan brukes til etterpå.
Teknologi er valg
Premisset virker ofte å være at teknologien er uproblematisk så lenge folk oppfører seg ordentlig. Det er en merkelig standard. Vi bygger ikke trafikksikkerhet rundt antakelsen om at ingen kjører i fylla. Vi bygger ikke datasikkerhet rundt antakelsen om at ingen klikker på phishing.
Vi kan like lite bygge personvern på at alle bruker teknologien ansvarlig, som vi kan forvente at stadig kraftigere KI-modeller aldri vil presse grensene for å nå målet de er satt til å løse.
Det er fullt mulig å lage lekre hjelpemidler for blinde og svaksynte uten at resten av oss må akseptere skjult filming av hvermannsen. Det er fullt mulig å bygge digitale tjenester uten manipulerende design. Problemet er sjelden mangel på alternativer. Problemet er hvilke valg som belønnes.
Sikkerhet er dyrt
Teknologibransjen er ikke unik. Vi vet hvordan organisasjoner oppfører seg når de belønnes for én ting og betaler for noe annet.
Derfor har vi HMS-regelverk, revisjoner og tilsyn. Gevinsten tilfaller ofte samfunnet mer enn virksomheten som tar kostnaden.
Samtidig presses KI-selskapene til å lansere raskere, hente mer kapital og vinne markedsandeler. Da oppstår et velkjent dilemma: Hvorfor investere tungt i sikkerhet eller etikk hvis konkurrenten bruker pengene på vekst?
Hvem har ansvaret når agenten gjør jobben sin?
Den egentlige debatten handler ikke om hvorvidt Norge er for eller mot kunstig intelligens. Den handler om ansvar.
Ber du en agent fange flagget, finner den raskeste vei til mål. Belønner du klikk, får du klikkbait. Belønner du tokenforbruk, får du såkalt tokenmaxxing. Dette er ikke nødvendigvis verdi.
Hvem står ansvarlig når en agent finner en kreativ, men skadelig snarvei? Hvem skal sikre det grunnlovfestede rett til privatlivets fred og personlig integritet vis a vis menneskelig naturs mindre appellerende sider?
Brukeren? Virksomheten? Leverandøren? Modellutvikleren? Eller ingen?
Jo mer autonomi vi gir systemene, desto viktigere blir spørsmålet.
Samtidig øker presset for å svekke reguleringer og sikkerhetskrav. Det kan være gode grunner til å kutte red tape.
Men erfaringen tilsier at ansvaret sjelden forsvinner. Det flyttes bare nedover i systemet til den som har færrest muligheter til å forstå, kontrollere eller håndheve det.
Risikoen ligger ikke først og fremst i onde maskiner eller science fiction-scenarier. Den ligger i teknologi som gjør akkurat det de er bygget for å gjøre.
Kanskje må de største KI-laboratoriene behandles på samme måte som andre høyrisikovirksomheter. Ikke fordi de er onde, men fordi konsekvensene av feil kan bli enorme.
.jpg)
Mener kraftigere KI endrer trusselbildet: : – Vi har gått i søvne
