Tung om KI-skandalen: − Jeg heier på kommuner som tør å prøve

Forrige uke avslørte iTromsø at Tromsø kommune, i et forslag til ny skolestruktur, hadde brukt forskningskilder som rett og slett ikke eksisterte.

Kommunen hadde brukt generativ kunstig intelligens til å få frem forslaget. Modellen hadde fabulert opp flere kilder. Av 18 referanser, var det bare sju som lot seg spore opp.

Det reagerte blant annet Thomas Nordahl, som feilaktig ble oppgitt som forfatter av boka «Kvalitet i skolen: Læring, trivsel og relasjoner». Boka har aldri eksistert.

– Jeg mistenker at de kan ha brukt Chat GPT eller en annen robot, og ikke kvalitetssikret det som kom ut, sa Nordahl til VG.

Kommunen, som har møtt massiv kritikk fra foreldreråd og innbyggere, har bestemt seg for å pause høringsprosessen i et halvt år.

Heier på kommuner som tør å prøve

Hendelsen har satt fart på debatten om bruk av generative språkmodeller.

Digitaliseringsminister Karianne Tung, som har som mål at 80 prosent av offentlig sektor skal bruke kunstig intelligens (KI), uttrykker imidlertid støtte til kommunen.

− Kommunen skal ha ros både for å ta i bruk teknologien, men også for å være åpne og reagere raskt når det viser seg at feil har blitt gjort, skriver hun i et innlegg på Linkedin.

Tung gjentar målet om at 80 prosent av offentlige virksomheter skal ta i bruk KI innen 2025, men advarer mot å bruke «et av de kraftigste verktøyene vi har tilgjengelig for å effektivisere og modernisere arbeidsprosesser» uten at gode retningslinjer og mennesker sitter i førersetet.

Tung roser kommunen for å ha trukket rapporten og gjøre sitt for å rette opp.

− Jeg heier imidlertid på kommuner som tør å prøve, som tør å ta i bruk teknologien og som tør å innrømme feil. Bare slik kan vi lære – både av det som fungerer bra og det som ikke går bra, skriver hun.

Tung har satt opp en liste med korte råd, blant dem å alltid kvalitetssikre resultatene fra generativ KI, være åpne og dokumentere prosessen, ha mennesker i førersetet og søke veiledning.

− En svært dårlig idé

Innlegget på Linkedin har skapt reaksjoner.

Professor Jill Walker Rettberg, ved Universitetet i Bergen, bruker anledningen til å stusse på målet om mer bruk av KI.

− Selvfølgelig finnes det områder hvor det kan være nyttig, men det bør jo ikke være et mål i seg selv å bruke en bestemt teknologi, skriver hun.

Rettberg etterspør klare retningslinjer for hva offentlig sektor ikke bør gjøre med KI.

− Å bruke KI til å generere kunnskapsoppsummeringer og forskningsrapporter er en svært dårlig idé, særlig når de skal brukes som grunnlag for politiske avgjørelser, skriver hun.

Yngvar Ugland, forbrukerteknolog i DNB og divisjonsdirektør i New Tech Lab, setter spørsmålstegn ved om KI-målet kun skal handle om generativ KI.

− For meg høres dette ut som gode råd til 80 prosent bruk av store språkmodeller i offentlige virksomheter, som nærmest antyder at det er eneste formen for KI man bør se på, skriver Ugland og fortsetter:

− I det større KI-rommet representeres de største mulighetene av helt andre ting enn å sette LLM-strøm på papir.