Stortinget skal ta i bruk Tsetlin-maskiner: – Ingen flere svarte bokser

Stortinget har siden 2019 jobbet med å implementere flere typer kunstig intelligens i den parlamentariske hverdagen. De har en strategisk tilnærming med bruk der hvor det er hensiktsmessig.

Nå går startskuddet for utprøving av en norsk KI-oppfinnelse, som blir tatt imot med entusiasme fra høyeste hold.

– Jeg skjønte med en gang at dette er det vi har lett etter, sier Svein Harberg (H) om Tsetlin-maskinen.

I rollen som Stortingets 1. visepresident er Harberg rangert som nummer fire i det offisielle Norge etter kongen.

Ingen svarte bokser

Han forteller entusiastisk om et møte i oktober 2024 med Tsetlin-maskinens oppfinner, professor Ole-Christoffer Granmo ved Universitetet i Agder og leder for KI-senteret i Grimstad.

– Åpne, etterprøvbare systemer er framtiden når det gjelder kunstig intelligens. Vi har nå et prosjekt der vi jobber med «no more black boxes», konstaterer visepresidenten.

I kunstig intelligens er «svarte bokser» systemer der man ikke forstår hvordan svarene oppstår – som med store språkmodeller og dype nevrale nettverk som Chat GPT. Tsetlin-maskinen er også maskinlæring, men logisk forklarbar og etterprøvbar.

Sammen med Stortingets IT-avdeling tok Harberg initiativ til en intern workshop for å utforske mulige bruksområder for den kortreiste KI-en.

Samlingen fant sted like før påske, med deltakere fra Stortinget, Høyesterett, Domstoladministrasjonen, professor Granmo, teknologer, jurister og representanter fra Knowit og Bouvet.

Her kan du lese om hvordan KI-oppfinneren opplevde samlingen og hva som vil skjer videre.

Geopolitikk og eksport fra hjemfylket

Harbergs interesse for Granmos oppfinnelse, som er skapt i fylket der han selv er innvalgt til Stortingert, er upåklagelig.

Så har han også vært ordfører i Grimstad og var i sin tid med på å vinne en politisk dragkamp om å få teknologicampus dit. Som lokalpolitiker var han med på å bevilge de første midlene til dette miljøet.

Ingen ulempe at det kommer derfra, medgir visepresidenten. Det er likevel mer spennende at løsningen er norskutviklet, åpen og en logisk forklarbar kunstig intelligens, slik han ser det.

– Personlig har jeg et mål om at dette skal vi få inn i det offentlige, også i parlamentene i Europa, sier Harberg.

Han legger vekt på det som skjer i USA for tiden. Trump-administrasjonen har endret den geopolitiske situasjonen og fører en poltikk som skaper usikkerhet, ikke minst blant innkjøpere av teknologi.

– Det viktige er jo at dette var en god timing. Vi må ikke ukritisk ta imot lukkede systemer fra USA. Dette kan bli et viktig alternativ – og kanskje tvinge de store aktørene over på åpne løsninger.

Viktig med tillit til demokratiet

Harberg får støtte av Frode Rein, som er seksjonsleder ved Stortingets IT-avdeling med ansvar for strategi og innovasjon.

– Vi trenger ikke flere tekniske løsninger som undergraver tilliten til demokratiet, som allerede er under press i dag, sier Rein.

Rein er også IT-koordinator for ECPRD, Det europeiske senter for parlamentarisk forskning og dokumentasjon. I rollen fungerer han som et bindeledd mellom Stortinget og de andre nasjonalforsamlingene i Europa når det gjelder teknologi og digitalisering.

Til årskonferansen i Bern i Sveits senere i år skal Rein ta med seg professor Granmo og dele erfaringer om den norske teknologien.

Mer demokrati og åpenhet

Chat GPT og andre store språkmodeller er det i utgangspunktet ikke noe i veien for å bruke – også i nasjonalforsamlingen – men til sitt bruk og så lenge bruken er bevisst.

– Men til beslutningsstøtte er generativ KI mer problematisk. Du kan få gode svar, men det er umulig å spore hvordan modellen kom fram til dem. I et demokrati må vi kunne forklare hvordan en konklusjon er trukket, sier Rein.

Tsetlin-maskinen er interessant fordi den er mer transparent og forklarlig, selv om den ikke har alle funksjonene til generativ KI ennå, utdyper han.

I likhet med visepresidenten ser også han for seg at Tsetlin-maskiner kan få betydning for offentlig sektor, forvaltningen, samt også andre parlamenter i Europa.

– Det kan bety veldig mye for å skape tillit. Det er det som er den store utfordringen med dagens generative KI, sier Rein.

Bouvet-direktør: – Dette er nybrottsarbeid

Teknologidirektør Simen Sommerfeldt i Bouvet deltok på workshopen for å utforske hvordan Tsetlin-maskinen kan brukes i lovarbeid og rettspleie.

– Hvis man kan knekke noen av de nøttene, kan det bli veldig kult, sier han.

Han mener Tsetlin-maskinen skiller seg fra andre KI-systemer ved at den gir fullt innsyn i hvordan den kommer fram til svar.

– Det gir en åpenhet og tillit som er viktig for demokratiet. Jeg kaller det nybrottsarbeid og håper det munner ut i noe.

Sommerfeldt peker på tre hovedutfordringer med dagens KI-bruk i offentlig sektor: manglende forklarbarhet, fabrikasjoner og høyt energiforbruk.

– Hvis du bruker KI som ikke er forklarbar til vesentlige beslutninger i offentlig sektor, vil du bryte både forvaltningsloven og GDPR. Tsetlin-maskinen bygger på kausalitet i stedet for korrelasjon og sier ifra når den ikke forstår – i stedet for å finne på svar.

Han mener teknologien er særlig interessant for områder der data må behandles lokalt, som i Stortinget og Forsvaret.

– Den svarer på mange av utfordringene store språkmodeller har i offentlig sektor. Derfor synes vi i Bouvet dette er kjempespennende.

På spørsmål om han er enig med visepresident Svein Harberg i at dette kan styrke demokratiet, svarer han:

– Ja, jeg er enig med ham. Det har et potensial for det, fordi så mange sliter med akkurat disse tingene. Det kan hende det ikke funker, men jeg synes det er utrolig stilig at de prøver.