KI diktet opp rettskilder – ble avslørt av Høyesterett

En gang i løpet av første kvartal i år fikk Høyesterett et prosesskriv til en sivil ankesak, der både både lover og forarbeider viste seg å være diktet opp av en KI-språkmotor som advokaten hadde brukt til å utarbeide anken.

Det forteller høyesterettsjustitiarius Toril Marie Øie til Advokatbladet, som først omtalte saken.

De oppdiktede kildene ble avslørt da en av Høyesteretts utredere rutinemessig gjennomgikk de sentrale kildene som partene i saken viser til i sine prosesskriv.

Kildene eksisterte ikke

– I prosesskrivet var det både henvist til ulike rettskilder og gjengitt sitater fra kildene. Da utrederen hos oss skulle forsøke å finne frem til disse kildene, viste det seg at kildene ikke eksisterte. Her hadde advokaten rett og slett ikke sjekket kildene fra KI før prosesskrivet ble inngitt, sier Øie til Advokatbladet.

Det opplyses ikke hvilken KI-motor advokaten skal ha brukt, eller hvilke kilder den hadde diktet opp.

Tidligere i år kom det fram at Tromsø kommune hadde brukt oppdiktede KI-kilder i et forslag til ny skolestruktur i kommunen. Og to amerikanske advokater ble allerede i 2023 bøtelagt fordi de hadde brukt ChatGPT-oppdiktede dommer i retten. Dette er imidlertid første gang Høyesterett i Norge har fått slike KI-hallusinasjoner på bordet, skriver Advokatbladet.

Øie forteller at advokaten som unnlot å sjekke kildene sine, ikke har fått noen rettergangsbot etter tabben. Saken blir heller ikke bragt inn for Advokatnemnda. Hun ser imidlertid ikke bort fra at det kan komme slike reaksjoner dersom lignende tilfeller skjer i fremtiden.

– Virkelig uheldig

Saken fører imidlertid til at KI nå har fått et eget punkt i Høyesteretts advokatveiledning. Torsdag ble det publisert en ny utgave av denne, der farene ved bruken av KI-verktøy blir presisert.

I KI-punktet står det blant annet at «det er kjent at KI kan hallusinere og finne opp blant annet rettskilder. Kilder og andre opplysninger KI oppgir, må kvalitetssikres. KI bør bare brukes på områder hvor advokaten har god nok kompetanse til å kontrollere innholdet».

Siri Teigum, som er leder i Advokatforeningen, forteller til Advokatbladet at hun ikke er overrasket over at det er skjedd en KI-tabbe i norsk rett.

– Det var ventelig at det på et eller annet tidspunkt ville skje noe slikt også i Norge, men jeg er veldig overrasket over at det skjer i et prosesskriv til Høyesterett. Det er virkelig uheldig, sier hun.