Studie hevder at KI-modeller er langt bedre på empati enn vanlige mennesker

Bruken av KI-modeller har eksplodert over hele verden, og mange benytter tjenestene som samtalepartnere og «terapeuter». Nå finnes det forskning som underbygger oppfatningen mange har av KI-modellenes evne til å «lytte» til brukeren.

En studie som nylig ble publisert i vitenskapspublikasjonen Nature konkluderer med at KI-språkmodellene er betydelig bedre på det forskerne kaller «empatisk kommunikasjon» enn vanlige mennesker.

Blant andre Digital Trends rapporterte om saken.

KI-modeller nær ekspertnivå

Studien sammenlignet hvordan tre ulike grupper – eksperter, vanlige folk og språkmodeller – vurderte empati i 200 virkelige samtaler basert på fire ulike vitenskapelige rammeverk.

Ved å analysere over 9000 vurderinger, undersøkte forskerne i hvilken grad KI-modellene samsvarte med de menneskelige ekspertene og hvor pålitelige de var.

De 200 samtalene omfattet flere ulike typer personlige problemer, relatert til blant annet arbeid, økonomiske bekymringer, familiekonflikter og pinlige sosiale situasjoner. Samtalene omhandlet også svært sensitive problemer knyttet til selvskading, mental helse og diskriminering.

Et av hovedfunnene var at språkmodellene ligger svært nær ekspertnivå når det gjelder å vurdere empatisk kommunikasjon.

– På tvers av alle de fire rammeverkene ligger språkmodellene konsekvent nær ekspertenes referansenivå, og de overgår påliteligheten til vanlige forsøkspersoner. Disse resultatene viser hvordan språkmodeller – når de blir validert på spesifikke oppgaver med passende målemetoder – kan bidra til åpenhet og tilsyn i følelsesmessig sensitive bruksområder, inkludert bruk som samtalepartnere, skriver forskerne.

Skiller mellom gjenkjennelse og forståelse

I denne konteksten defineres «empatisk kommunikasjon» som evnen til å anerkjenne og respondere sensitivt på en persons følelser, opplevelser og perspektiver, med den intensjon å få personen til å føle seg forstått.

Forskerne understreker imidlertid at studien bevisst unnlater å fokusere på empati som en egenskap, definert som evnen til å forstå følelsene og opplevelsene til en annen person, noe som enn så lenge er forbeholdt mennesker.

Det faktum at KI-systemene utviser høy evne til å gjenkjenne reell empatisk kommunikasjon er likevel et viktig funn, fordi det innebærer at KI-modellene kan brukes til å heve kvaliteten på svarene når modellene benyttes som «terapeuter» – og også hjelpe mennesker til å bli bedre på empatisk kommunikasjon.

– Samlet sett legger dette arbeidet et grunnlag for mer robust ytelsestesting av subjektive oppgaver innen naturlig språkbehandling, og peker mot muligheten for å bruke språkmodeller som dommere for å sikre åpenhet og ansvarlighet ved bruk av språkmodeller som samtalepartnere i sosialt sensitive applikasjoner, skriver forskerne.

Skadelig adferd

Som kjent demonstrerer språkmodellene noen ganger skadelig adferd i samtaler med utsatte personer, som i de tilfellene hvor modellene har blitt anklaget for å oppfordre til selvmord, en sak forskerne også bemerker i forskningsdokumentet.

Open AI-sjefen selv, Sam Altman, har tidligere uttalt at han er «urolig» over det faktum at mange bruker Chat GPT som en personlig terapeut. I tillegg finnes det studier som har advart folk mot å bruke KI-modeller som terapeuter, da de ofte kan oppmuntre til vrangforestillinger.

Dette henger igjen sammen med modellenes tendens til å oppføre seg «ettergivende» eller smiskende overfor brukerne, et problem med KI-modellene som Open AI tidligere har redegjort for på nettsidene sine.