Forsker feller dom over KI: Stjeler tid fra leger og pasienter

I to år har forsker i informasjonsvitenskap Silja Vase fulgt arbeidet ved to danske sykehus. Som en oppdagelsesreisende i en fremmed kultur har hun intervjuet de ansatte og analysert bruken av det som for mange fortsatt er et nytt verktøy: automatisk talegjenkjenning som kan skrive journaler basert på legenes diktat.

Som med ethvert godt verktøy er hensikten med talegjenkjenning (TGK) at det skal lette arbeidet og spare tid. I legenes tilfelle for at de kan bruke den sparte tiden på kjerneoppgaven med å gjøre syke mennesker friske.

Men etter de to årene i felt og utallige timer med intervjuer med blant andre leger, legesekretærer, sykepleiere og it-folk, ble konklusjonen en annen i ph.d.-avhandlingen hun nylig har forsvart:

– I praksis ender leger med å bruke verdifull arbeidstid på å rette feil, trene algoritmer og løse administrative oppgaver som tidligere lå hos sekretærene, sier Vase om hovedkonklusjonene i studien sin, som blant annet har resultert i fem vitenskapelige artikler, hvorav flere er publisert enten som konferansebidrag eller antatt i tidsskrifter.

Det kommer en god løsning i morgen

I dag er hun postdoktor ved Institutt for informatikk ved Københavns Universitet, der hun blant annet forsker på hvordan forventninger til framtidige versjoner av programvare eller andre verktøy kan «stabilisere tvilsomme arbeidsforhold».

Det var en mekanisme hun ofte observerte i løpet av de to årene på danske sykehus:

– Det er hele tiden et håp om at det om litt kommer en bedre versjon av denne talegjenkjenningen. Og så kan vi jo klare dette litt til, sier Silja Vase og minner om at det har blitt jobbet med talegjenkjenning på sykehusene i ti år:

– Ofte blir jeg spurt: «Men er det ikke bare barnesykdommer? Det blir vel bedre?» Og ja, det skulle man tro. Men jeg synes også at man på et tidspunkt må spørre om man ikke bør stille krav til systemet, sier hun.

Markant utvikling siden feltstudiene

Vases resultater kommer vi tilbake til, men vi stiller først de samme spørsmålene til selskapet Omilon, som leverer TGK-systemer til alle regioner i Danmark og Norge – systemer som daglig brukes av mer enn 20.000 klinikere på sykehus i de to landene.

Her lyder svaret – kanskje ikke overraskende – at man kan stille krav til systemene, og at de har blitt bedre, også siden Vases studier ved danske sykehus:

«Feltarbeidet bak avhandlingen er basert på observasjoner fra perioden 2020–2022. Teknologien har utviklet seg markant siden, og systemene i dag er vesentlig mer presise enn løsningene som inngikk i studien», heter det i et skriftlig svar til Ingeniøren fra selskapets director of customer engagement and innovation, Anne Bøgh Fangel.

Hun påpeker også at formålet med kvalitative studier som Silja Vases er å forstå konkrete arbeidssituasjoner og erfaringer – «ikke å måle teknologiens samlede effekt eller å trekke generelle konklusjoner på tvers av helsevesenet».

Legene: Ja takk – men det må være trygt

De konkrete arbeidssituasjonene med TGK til journalskriving involverer naturlig nok legene, som siden overgangen til nye journalsystemer har måttet skrive journalene selv.

Fra Legeforeningens leder, Camilla Rathcke, lyder det også et sterkt ønske om et verktøy som kan avlaste medlemmene hennes. Men framfor alt stiller hun krav om at et slikt verktøy må være trygt – og det er hun ikke overbevist om at talegjenkjenning er i dag:

– Vår opplevelse er at det er et verktøy der resultatene må kontrolleres for å sikre at man er gjengitt korrekt. Og vi kan lett være i en situasjon som leger der vi ikke har mulighet til veldig raskt å gå inn og korrigere noe, hvis vi løper fra A til B til C og prioriterer å se pasientene framfor å korrigere verktøy som egentlig skulle hjelpe oss, sier hun, og legger til:

– Og vi har hørt om tabber der noe er gjengitt feil i en journal (av TGK-systemet, red.).

Legeforeningens leder minner samtidig om at fordi legesekretærene ble utdannet i medisinske termer på latin, så forsto de hva som ble sagt, og korrigerte selv hvis de tastet noe feil.

– Egentlig ville vi bare gjerne ha beholdt sekretærbistanden vår, men verden har endret seg, erkjenner hun, uten dermed å ta imot talegjenkjenning med åpne armer:

– Hvis usikkerheten om det som blir journalført er for stor, og det kan være tvil om hva vi egentlig har sagt, så vil vi heller ha det vi har i dag», sier Rathcke, som understreker at TGK langt fra er en utbredt teknologi på sykehusene, og at status quo dermed er at legen selv må skrive journalene sine.

Smerter – eller ikke smerter?

Vi går tilbake til Silja Vase, som overfor Ingeniøren understreker at avhandlingen ikke bare handler om systemer som var i drift i 2020–2022:

– Jeg har også undersøkt nyere løsninger. Og her ser det ut til at noen av de samme typene feil og arbeidsprosesser rundt korrigering og validering fortsatt oppstår i praksis, forklarer hun.

Som nevnt er en av avhandlingens hovedkonklusjoner at legene opplever å bruke verdifull arbeidstid på å rette feil i talegjenkjenningen.

I tillegg til at dette arbeidet tar tid fra tiden sammen med pasientene, er risikoen for at feil slipper gjennom også et problem, mener Silja Vase.

– For eksempel opplevde jeg en situasjon der en lege snudde seg mot meg og med hevet stemme forklarte at «man kan havne i fengsel hvis man ordinerer noe så feil», sier hun om en feil i transkriberingen, der formuleringen kunne ha endret betydningen av en medisinordinasjon.

– I tillegg så jeg forvekslinger av venstre og høyre. Det virket å skyldes systemets sannsynlighetsbaserte gjetning basert på tidligere setninger, der man ofte angir side, for eksempel hvor pasienten har vondt.

– Jeg la også merke til at ordet «ikke» innimellom ble utelatt. Det kunne endre en setning fra at pasienten ikke har smerter, til at pasienten har smerter», forklarer Silja Vase, og understreker at slike små utelatelser eller ombyttinger kan ha stor betydning når en annen helsepersonell skal vurdere journalen.

Rettelser i en svart boks

Et annet hovedpoeng i studien er at selv om legene bruker tid på å rette og lære opp talegjenkjenningen, opplever mange av dem systemet som en «svart boks», der det er vanskelig å gjennomskue om feil faktisk er rettet.

Det fenomenet kaller avhandlingen «pseudo-dataarbeid», fordi legene føler at arbeidet deres med å forbedre modellene og rette feil kan være nytteløst.

– Problemet er at de ikke kan se om rettelsene deres faktisk gjør en forskjell. Systemets statistiske data er ikke tilgjengelige for dem, og derfor risikerer de å jobbe i blinde, sier Vase.

Til dette kritikkpunktet svarer Omilons Anne Bøgh Fangel at systemene som inngikk i Vases studie var basert på tidligere generasjoner av talegjenkjenningsteknologi, der forbedringer i større grad skjedde lokalt.

– Løsningene som leveres i dag er i stor grad skybaserte, der forbedringer i gjenkjenningspresisjon skjer løpende gjennom sentrale oppdateringer av modellene, sier hun.

«Bildet er mer nyansert»

Hos Danske Regioner, som er organisasjonen for regionene som driver de danske sykehusene, har man ikke noen samlet oversikt over utrullingen av TGK på sykehusene.

Organisasjonens presseavdeling opplyser likevel i et skriftlig svar at det er gjennomført pilottesting av løsningene, som peker på at det er «potensial i dem», og at «automatisert dokumentasjon bidrar til å styrke effektiviteten, frigjøre ressurser og bidra til smidigere pasientforløp».

TGK-leverandøren Omilon medgir at erfaringene med implementering av talegjenkjenning ikke er like overalt, men mener, basert på implementeringer i Danmark, Norge og Sverige, at «bildet ofte er mer nyansert enn det som framgår av studien».

Likevel kaller Anne Bøgh Fangel det «et interessant innblikk i hvordan talegjenkjenning inngår i klinisk dokumentasjonsarbeid i praksis».

Redder ikke hverdagen i morgen

For Silja Vase er et hovedpoeng med kritikken nettopp å peke på hvor viktig det er å innrette prosesser og se på TGK som et «levende verktøy» som utvikler seg:

– Formålet er å forstå konkrete arbeidssituasjoner og erfaringer. Jeg forsøker ikke å måle den samlede teknologiske effekten på tvers av helsevesenet, men å analysere hvordan teknologien blir brukt, håndtert og vedlikeholdt i praksis i de organisatoriske sammenhengene jeg har studert, forklarer hun.

Hos legene, som til slutt skal snakke til maskinene og stå til ansvar for journalene som kommer ut i den andre enden, er skepsisen likevel fortsatt dominerende:

– Feltstudien samsvarer med vår oppfatning av at dette er verktøy som ikke allerede i morgen kommer til å redde hverdagen vår i helsevesenet. AI kan mye, men vi er ikke der at AI allerede i morgen er klar til å erstatte alle mulige arbeidsprosesser og dokumentasjonsmåter – verktøyene er rett og slett for umodne og upresise til det, sier Legeforeningens leder Camilla Rathcke.

Artikkelen ble først publisert på Ingeniøren for deres abonnenter. Den er tilgjengelig for Digis abonnenter gjennom vår samarbeidsavtale.