Studie: Slik kan KI-modellene svekke dømmekraften din

KI-chatbotene har allerede blitt en integrert del av folks hverdag, og et av de mange bruksområdene tjenestene har fått, er nyhetsformidling. Dette kan imidlertid føre med seg utilsiktede, negative konsekvenser, hevder forskere.

Det kjente teknologiuniversitetet MIT gjennomførte nylig en undersøkelse som indikerer at det å stole på KI-modeller for nyheter, ikke er en spesielt god ide – men av andre grunner enn man kanskje skulle tro.

Det er en kjent sak at KI-modellene er svært utsatt for såkalt «hallusinering», eller feilinformasjon som modellene selv finner på, men MIT-forskerne fant at KI-bruk også kan svekke brukerens dømmekraft.

Svakere resultater etter KI-bruk

Teamet gjennomførte et eksperiment som innebar å følge 67 personer over en periode på fire uker mens de evaluerte nyhetsoverskrifter med tilhørende bilder, hvor målet var å skille falske fra ekte nyheter både med og uten assistanse fra KI-modeller.

Med assistanse fra KI-modellene fant forskerne at brukerne oppdaget falske nyheter med 21 prosent høyere presisjonsnivå. Men, når KI-assistansen ble tatt bort etter den tredje uken, falt brukernes presisjonsnivå med 15 prosent sammenlignet med da studien startet.

– Disse resultatene indikerer at selv om KI kan hjelpe på kort sikt, kan den på lengre sikt svekke evnen til å oppdage feilinformasjon, skriver teamet i forskningsdokumentet.

Forskerne peker på at KI-assistansen tar bort mye av insentivet til å utøve kritisk tenkning, og skaper en form for avhengighet som reduserer evnen til uavhengig evaluering.

Passer inn i bredere forskning

– Hvis målet bare er å redusere troen på bestemte usannheter der og da, kan KI være effektivt. Men hvis målet er å utvikle folks evne til å gjenkjenne usannheter på egen hånd, tyder våre resultater på at dagens KI-tilnærminger kan mislykkes – eller til og med virke mot sin hensikt ved å skape avhengighet, heter det i oppsummeringen av studien.

Ifølge forskerne underbygger funnene den bredere forskningen rundt menneske-KI-interaksjon generelt. Denne har vist at KI ofte fører til umiddelbare ytelsesforbedringer, men kan samtidig skjule underliggende forvitring av de menneskelige ferdighetene.

Dette er særlig et problem med tanke på hvor mye innhold som nå genereres av nettopp KI på internett, og det faktum at svært mye er tilnærmet umulig å skille fra ekte innhold.

Det foreligger for øvrig flere studier som indikerer at økende KI-avhengighet kan ha konsekvenser for brukernes kognitive evner. Digi har tidligere rapportert om en omfattende studie som konkluderte med at bruk av tjenester som Chat GPT blant universitetsstudenter er knyttet til utsettelser, hukommelsestap og en generell nedgang i akademisk prestasjon.

Ønsker «hybridtilnærming»

I tillegg fant en Microsoft-studie av flere hundre kunnskapsarbeidere at det er en korrelasjon mellom høy tillit til at KI-verktøyet kan løse oppgavene og lavere innsats når det gjelder kritisk tenkning.

– Selv om generativ KI kan forbedre arbeidernes effektivitet, kan det hemme kritisk engasjement med arbeidet og potensielt føre til langsiktig overavhengighet av verktøyet og redusert ferdighet i selvstendig problemløsning, skrev Microsoft.

Ifølge MIT-forskerne i denne seneste studien, viser funnene at det er nødvendig med en ny «hybrid-tilnærming» til KI-utvikling som fokuserer på å kombinere umiddelbar hjelp med langsiktig ferdighetsutvikling.

– Våre funn understreker behovet for KI-systemer som er spesielt utformet for å styrke, snarere enn å erstatte, menneskers evne til å resonnere, skriver forskerne.