Chat GPT vil ha pasientjournalen din – leger er skeptiske

Open AI beveger seg nå dypere inn på området for digitale helseløsninger.

Det amerikanske teknologiselskapet har nylig presentert en ny versjon av Chat GPT, utviklet spesielt for å svare på spørsmål om helse og sykdom.

Det nye produktet har fått navnet Chat GPT Health, og for at chatboten skal kunne gi så relevante svar som mulig, oppfordrer Open AI brukerne til å dele pasientjournaler og data fra helseapper med KI-assistenten.

Den nye løsningen lanseres først i USA, og det er uklart om den på sikt blir tilgjengelig i Danmark. Men dersom det skjer, bør danskene være forsiktige med å mate løsningen med for mange helsedata, advarer danske leger.

– Jeg vil råde folk til ikke å bruke den til å laste opp elektroniske pasientjournaler og svært sensitive data, sier professor og allmennlege Janus Laust Thomsen, leder for Senter for allmennmedisin ved Aalborg Universitet.

Han får støtte fra Daniel Nyboe, lege og styremedlem i Dansk Selskab for Almen Medicins avdeling i Region Hovedstaden. Han har vært medforfatter på flere av foreningens holdningspapirer om kunstig intelligens, og selv om han mener det nye produktet er spennende, oppfordrer han brukerne til å være forsiktige.

– Akkurat nå vil jeg ikke anbefale å bruke det, for vi må først få redusert hallusinasjoner i løsningen, og så må vi øke sikkerheten, sier Daniel Nyboe.

Danske leger advarer

Brukerne av Chat GPT vil kunne få tilgang til den nye helsechatten via en egen meny, og ifølge Open AI skal personvernet være styrket.

For eksempel skal spørsmål og svar innen helseområdet lagres separat fra vanlige samtaler med Chat GPT. I tillegg opplyser Open AI at samtalene ikke vil bli brukt til å trene KI-modellene.

Samtidig understreker selskapet at assistenten ikke er ment for diagnostisering eller behandling, og at den ikke skal erstatte, men støtte opp under legehjelp.

Ifølge Daniel Nyboe fra Dansk Selskab for Almen Medicin bør brukerne derfor være forsiktige med å legge for stor vekt på det chatboten sier.

– Når man tilbyr ekstra sikkerhet, kan jeg bare forestille meg at det betyr ekstra forsiktighet, flere diagnoseforslag og mer oppmerksomhet på sykdommer. Når man googler, kan alt føre til kreft – så hvorfor skulle det ikke også kunne skje i Chat GPT, sier Daniel Nyboe.

Ved Aalborg Universitet har professor Janus Laust Thomsen også «et stort forbehold mot at et stort internasjonalt teknologiselskap skal lagre og håndtere så store mengder helsedata».

– De skriver at de ikke trener på bakgrunn av det, men som privatperson vil jeg likevel ha vanskelig for å vite hva som faktisk er konsekvensen av å laste opp dataene mine i et slikt system. Det er uoversiktlig, og vi vet jo ikke hva som skjer med disse dataene, sier han og legger til:

– Jeg kunne godt se for meg at danske myndigheter utvikler sin egen modell som kan brukes. Da ville jeg som borger hatt større tillit til at dataene mine ble lagret og behandlet korrekt, sier Janus Laust Thomsen.

«230 millioner i uka spør om helse»

At Open AI satser på helseområdet, overrasker ikke de to danske legene.

– Det finnes et marked for mer hjelp innen helse. Det mangler hender og legetimer, og borgerne stiller krav om økt tilgjengelighet i helsevesenet, sier Daniel Nyboe.

KI-assistenter har blitt en fast del av hverdagen for mange mennesker. I Danmark har Ingeniøren og flere andre medier tidligere beskrevet hvordan stadig flere bruker Chat GPT til å få svar på ulike helseproblemer.

Fra sin egen praksis har Janus Laust Thomsen også erfart at pasientene bruker språkmodeller til å forberede seg til legebesøk – og det kan ha fordeler, påpeker han.

– Jeg opplever at pasientene får bedre svar når de bruker språkmodeller til å søke, sammenlignet med tradisjonelle søkemetoder på nettet som søkemotorer, sier han.

Ifølge Open AIs egne tall bruker mer enn 230 millioner mennesker Chat GPT hver uke til å stille spørsmål om helse og velvære.

Husk hvilke data du deler

Selv om både Janus Laust Thomsen og Daniel Nyboe er skeptiske til flere sider ved Chat GPTs jakt på brukernes helsejournaler, understreker de at det også finnes store muligheter i å utvikle kunstig intelligens for helseområdet.

– Det blir interessant hvis vi får data på om det faktisk fungerer. Jeg vil følge med på om det fører til forvirrede og overdiagnostiserte pasienter eller ikke. Og hvis det faktisk hjelper, kan jeg se fordeler ved det, sier Daniel Nyboe.

Hvis modellen kommer til Danmark og man ønsker å bruke den, anbefaler Janus Laust Thomsen at man tenker nøye gjennom hvilke data man deler.

– Jeg ville vært forsiktig med å laste opp pasientjournaler og større datasett som jeg normalt ikke ville delt med andre. Men jeg tenker at man godt kan bruke den til å gå gjennom treningsdata og andre opplysninger på det nivået. For man kan absolutt ha nytte av å samhandle med språkmodeller – så lenge man gjør det med åpne øyne.

Artikkelen ble først publisert på Ingeniøren for deres abonnenter. Den er tilgjengelig på norsk for Digis abonnenter gjennom vår samarbeidsavtale.