Norsk selskap sier KI-løsningen deres sparer leger to timers jobb hver dag

Det norske oppstartsselskapet Noteless har på litt over to år blitt et av de raskest voksende helseteknologiselskapene i Europa. Løsningen deres automatiserer journalnotater for helsepersonell.

I dag bruker mange leger, psykologer, fysioterapeuter og andre helsearbeidere i Norge og Danmark verktøyet.

I dag genererer Noteless i overkant av 100.000 journalnotater hver eneste uke, forteller teknologidirektør og medgrunnlegger Mikkel Dahl Slettebø til Digi.

– Helsepersonell bruker ekstremt mye tid på administrativt arbeid. Det vi gjør, er å automatisere journalføringen, slik at de kan bruke mer tid på pasientene, sier Slettebø.

For brukeren er løsningen lydopptak av samtalen mellom lege og pasient, som transkriberes automatisk. Deretter brukes språkmodeller til å strukturere og skrive ferdige journalnotater, henvisninger og andre dokumenter.

Kan spare timer hver dag

Han forteller at brukerne deres i snitt sparer rundt to timer arbeid hver dag. Det gir mer tid til pasienter.

Selskapet ble grunnlagt høsten 2023 av Slettebø, William Vossgård og lege Sarankan Sivakanesan. Produktet ble lansert i juni 2024. Siden har de gått fra pilot til rundt 3000 betalende kunder.

Slettebø forteller at det som på overflaten kan virke som en enkel språkmodell-løsning, har krevd omfattende ingeniørarbeid.

– Med dagens teknologi er det enkelt å lage en 60 prosent god prototyp. Det er noe annet å lage et system som gir høy nok nøyaktighet til at tidsbesparelsene ikke skal bli spist opp av redigering og krangling med KI-en, og som kan skalere og være robust for tusenvis av brukere. Det krever at man har de riktige hodene, sier Slettebø.

For eksempel er det sjelden én modell som gjør alt arbeidet.

– I noen tilfeller må flere språkmodeller samarbeide. Ulike helsepersonell skriver på helt forskjellige måter, så vi må bruke ulike teknikker for å få riktig resultat, sier han.

Reduserer hallusinering

For Noteless har arbeidet med å redusere hallusinasjoner, altså feil eller oppdiktet informasjon, vært sentralt. De kan ikke risikere å levere en løsning som lager journalnotater med fri fantasi.

– Vi har et datasett med anonymiserte transkripsjoner som vi har samlet inn med samtykke fra pasient og såkalte gullnotater, altså fasiter laget av helsepersonell. Vi deployer aldri en ny løsning som hallusinerer mer enn den forrige, sier han.

Byggingen av datasettet har vært en av de største utfordringene for utviklerne. Uten mange brukere over tid har de ikke hatt nok data til å vite hva modellene er gode eller dårlige på.

De første modellene for talegjenkjenning var basert på ferdige komponenter fra en samarbeidspartner, men de har etter hvert gjort store tilpasninger på disse.

– Grunnmodellen var god, men vi har trent den videre på medisinske termer og uttrykk. Vi fikk mange tilbakemeldinger fra brukere om ord som ble feiltolket, og brukte de dataene til å forbedre modellen, sier Slettebø.

De kjører automatiske tester før en løsning går i produksjon, for å avdekke om teksten inneholder noe som ikke blir sagt. Disse evalueringene gir en score på hvor mye en modell har til tendens å hallusinere. Slettebø sier de ikke er på null, men nærmer seg.

Jobber tett med brukere

Han forteller at det har vært et avgjørende poeng at plattformen bygges tett sammen med helsepersonell.

– Da vi begynte å lage journalnotater, skjønte jeg fort at jeg som ingeniør ikke visste om resultatet var bra eller ikke. Det må en lege vurdere. Så vi bygget et system som gjør det enkelt for helsepersonell å bidra direkte i utviklingen. Det har vært avgjørende for kvaliteten, sier han.

Selv om selskapet bare er litt over to år gammelt, har de lært mye om hvordan systemet kunne bygges med generativ KI. Da de startet var det ikke bare å finne en modell å bygge arkitekturen på. I stedet måtte de bygge arkitektur som kunne skalere.

Han forteller at neste steg er å gjøre assistenten mer proaktiv.

– I dag må du be den om å lage en henvisning eller et brev. Vi vil at den skal forstå konteksten og foreslå det automatisk. Det skal føles som å samarbeide med en kollega, ikke som å skrive kommandoer til et program, sier Slettebø.

Rulles ut i Europa

Noteless ruller nå ut løsningen i flere europeiske land.

– Vi har lært mye i Norge og Danmark og tar med oss de erfaringene når vi skal tilpasse løsningen til nye språk og helsesystemer. Vi har bygd prosesser slik at vi raskt kan skreddersy for ulike profesjoner og spesialiteter i nye land, sier Slettebø.

Selv om løsningen deres er basert på generativ KI, mener Slettebø at KI er litt overhypet.

– Du kan ikke bare koble på en modell og tro at den løser alt. Men når du bygger det riktig, med folk som faktisk skal bruke det tett på utviklingen, kan det gjøre en stor forskjell for dem som i dag sitter og drukner i papirarbeid, sier han.

Personvern er kjerne

Slettebø understreker at personvern og informasjonssikkerhet er en kjerne i arkitekturen.

– I Noteless har vi bygget både arkitektur og organisasjon med personvern, informasjonssikkerhet og pasientsikkerhet som første prioritet, sier han.

Ifølge selskapet behandles all data utelukkende innenfor EU/EØS og er kryptert både i ro og i transitt. Ingen lyddata lagres, og ingen helsedata brukes til trening av KI-modeller.

Noteless er anbefalt for ISO/IEC 27001-sertifisering, er CE-merket og følger GDPR-prinsippene for privacy by design, forteller Slettebø. Han sier at sikkerheten jevnlig verifiseres gjennom uavhengige revisjoner og penetrasjonstester.

Taushetsplikt først

Leder Hans-Christian Myklestul i Allmennlegeforeningen peker på at personvernet må ha høyeste prioritet når fastleger tar i bruk KI-løsninger.

– For at pasienter skal ha tillit til allmennlegen, er det kritisk viktig at taushetsplikten ivaretas. Introduksjonen av forskjellige teknologiske hjelpemidler kan bidra til en raskere og bedre helsetjeneste. Det er mange KI-løsninger som fastleger bruker, oftest tale til tekst. Dette feltet er komplisert juridisk og teknologisk. Ivaretakelsen av taushetsplikten er viktigst, skriver Myklestul i en e-post til Digi.

Han understreker at ansvaret ligger hos både legene og leverandørene.

– Fastlegene har et selvstendig ansvar for å ivareta denne plikten, men det er viktig at leverandørene er tydelige på hvordan taushetsplikten håndteres av de forskjellige dataprogrammene, skriver han.

Myklestul omtaler feltet som svært komplisert og sier at konsekvensene ved feil kan bli alvorlige.

– Da er det klokt å ha en forsiktig tilnærming. Moderne kunstig intelligens har vist at den er i stand til å reidentifisere informasjon, skriver han.

Samtidig mener han at teknologien kan gi gevinster dersom den brukes med omtanke.

– Hvis tale-til-tekst-verktøy kan avlaste allmennleger, kan det være nyttig. Samtidig er det viktig å bruke tid på å prosessere pasientinformasjonen som kommer fram i samtalen, skriver Myklestul.