Rapport: «Empatisk» KI kan trigge negative reaksjoner hos brukere

Det har allerede dukket opp studier som indikerer at folk foretrekker KI som oppfører seg empatisk, og at KI i en del tilfeller faktisk oppfattes mer empatiske enn mennesker. En ny studie gjør dette bildet litt mer komplisert.

Nettstedet Tech Xplore melder om en studie utført av University of South Florida og et knippe andre institusjoner, publisert hos MIS Quarterly, som viser at det finnes tilfeller hvor empatisk KI ikke oppfattes positivt av brukeren.

Forskerne gjennomførte tre eksperimenter hvor deltakere ble satt inn i et hypotetisk kundeservicescenario og kommuniserte med en KI-chatbot for å løse tjenesterelaterte problemer.

Ga motreaksjoner

Det ble bevisst lagt inn inn mindre feil fra tjenesteagentens side i løpet av samtalen for å skape de rette mulighetene for at agenten kunne uttrykke empati som respons på deltakernes negative følelser.

Det forskerne fant var at empatiske svar fra KI-boten ofte utløste det de omtaler som en «psykologisk motreaksjon» i form av en negativ, følelsesmessig respons.

En av forklaringene på dette som forskerne legger frem, er at KI-empatien oppfattes som «inntrengende» og som en form for overvåking av brukeren, snarere enn «ekte» empati.

– Den fullstendige empatisyklusen innebærer å gjenkjenne og forstå en persons pågående emosjonelle opplevelse som et avgjørende første steg før empati uttrykkes. Dermed innebærer det å uttrykke empati at den som uttrykker den, har gjenkjent og forstått den andres følelser, skriver forskerne og fortsetter:

Kan true frihet og kontroll

– Selv om dette kan oppfattes som en naturlig evne hos mennesker, kan en chatbots gjenkjenning av følelser virke mindre «naturlig» og heller fremkalle en følelse av å være under overvåking.

Videre peker forskerne på at en KI-chatbot som kan «forstå» følelser kan lede folk til å tro at den faktisk er sansende (sentient), og dermed krysser grensen mellom menneske og maskin – som kan trigge en negativ motreaksjon mot den.

Det pekes videre på at empati som uttrykkes av en KI-chatbot som respons på den emosjonelle tilstanden til kunden, også kan true brukerens opplevelse av frihet og kontroll – noe forskerne mener har sammenheng med måten KI-chatboten etterligner menneskelig adferd på.

– Fordi mennesker har en implisitt partiskhet mot KI som en truende «art», kan det at den besitter en menneskelig egenskap i enda større grad skape en oppfatning av at den er utenfor menneskelig kontroll og utløse en motreaksjon, skriver forskerne.

KI flink til å «gjenkjenne» empati

Alle funnene kan man finne i selve rapporten.

Som Digi har rapportert om tidligere, har en annen studie funnet at KI er i stand til å gjenkjenne empatisk kommunikasjon på tilnærmet ekspertnivå.

I den studien skilte imidlertid forskerne skarpt mellom å «gjenkjenne» og «forstå» følelsene til personen, og det er altså tilsynelatende mangel på sistnevnte evne som kan fremkalle motreaksjonene omtalt i den nye studien.

Det hersker fortsatt en bred oppfatning om at «ekte» empati er forbeholdt mennesker og en av egenskapene som ikke vil bli overtatt av KI riktig ennå – noe også LinkedIn-sjefene har understreket.