«Kjære konfirmant. Du står ved terskelen til livet, og i dag markerer du et viktig steg på veien inn i voksenlivet. Du er klok, omsorgsfull og full av muligheter. Livet er åpent for deg.»
Elisabeth Asser leser opp en tale skrevet av Chat GPT – glatt og varm, men uten noen egentlig avsender.
Asser, som er førsteamanuensis på Universitetet i Agder (UiA) med en doktograd i KI og etikk, advarer mot å bruke kunstig intelligens på denne måten.
– Skal du skrive en tale, har du et ønske om å fortelle noen noe. Om du bruker kunstig intelligens, har du latt være å tenke gjennom hva du egentlig har på hjertet, sier hun.
Språkmodellen roser deg uansett for resultatet, noe som gjør at du lett slår deg til ro med at talen faktisk har blitt bra. Fenomenet kalles sykofansi, altså at modellen smisker for å bli likt.
– Det er deilig å snakke med noen som synes alt du gjør er fantastisk, sier Asser.
Kontrakten som brytes
– Vi blir gode til det vi gjør mye av, og dårligere til det vi gjør mindre av. Når språkmodeller skriver for oss, blir vi mindre gode til å skrive og tenke, sier Asser.
Men all tekst er ikke lik. Det er stor forskjell på en tale og for eksempel en bruksanvisning. Forskjellen ligger i den uskrevne kontrakten mellom den som skriver og den som leser.
– Skal du holde en tale til meg, ligger det en kontrakt i bunn om at du har noe oppriktig på hjertet. Får jeg vite etterpå at du bare kjørte det gjennom en språkmodell, da blir det åpenbart at du har brutt den kontrakten, sier Asser.
Om du derimot skal skrive en bruksanvisning, er kontrakten med leseren en ganske annen. Der er ikke forventningene større enn at bruksanvisningen skal hjelpe oss å få produktet til å virke.
Ingen nøytral hammer
Men hvem er egentlig ansvarlig for resultatet, om vi leverer fra oss et mindre godt resultat etter å ha brukt kunstig intelligens? UiA-professor Morten Goodwin bruker et bilde fra byggeplassen.
– Blir et hus skjevt fordi snekkeren bruker verktøyet feil, skylder vi ikke på hammeren, sier han.
Asser er enig i poenget, men peker på en viktig forskjell:
– Hammeren forteller ikke snekkeren om hvor spikeren skal stå. En språkmodell har langt flere føringer i seg. Den har en verdensforståelse i seg som du ikke er klar over når du bruker den. Den er aldri helt nøytral, sier hun.
Grunnen til det ligger i hvordan språkmodellene er laget. Modellene er trent på stort sett all tekst som ligger på internett, og enda mer attpå. Disse tekstene kan være alt fra bloggposter og romaner til propaganda og hatprat.
Tradisjonelle skjevheter i den vestlige kulturen, for eksempel syn på kvinner eller melaninrike personer, vil bli videreført av språkmodellene i større eller mindre grad.
Grønt, gult og rødt lys
I en podkast går Goodwin og Asser gjennom en rekke eksempler på KI-bruk og gir dem trafikklys etter om bruken er OK eller ikke. KI som stavekontroll: Grønt. Finne svakheter i din egen tekst: Grønt. Sammendrag av en artikkel du burde ha lest: Gult.
Å bruke KI til å skrive førsteutkast til en personlig tale, får rødt lys. Om produktet er en vitenskapelig tekst, blir bruken enda rødere. Verst av alt er det å bruke teknologien til å skrive kronikker for deg, mener forskerne.
– En kronikk skal være din mening om en ting. Skriver språkmodellen den for deg, er det ikke lenger din mening, sier Goodwin.
Skam er ikke svaret
Begge kjenner på hvor stor makt teknologien har fått over oss. Tankestrek, for eksempel – den lange streken er blitt et stempel på tekst skrevet av kunstig intelligens.
– Jeg er egentlig veldig glad i tankestrek. Men jeg har sluttet å bruke det, sier han.
Asser på sin side nekter å endre sin bruk av tegnsetting.
– Da dette ble en sak, bestemte jeg meg veldig tidlig for at den tankestreken, den skal ingen få ta fra meg.
Goodwin mener likevel at skam er feil vei å gå.
– Det er greit å bruke teknologien, i hvert fall så lenge man er ærlig på det. Har du fått språkvask av KI, kan du skrive at du har fått det, sier han.
Ønsker inn i læreplanen
Regjeringen anbefaler at KI skal ut av skolen. Goodwin er skeptisk og trekker frem en rekke vanlige verktøy som nå tar i bruk kunstig intelligens, fra Google-søk til tekstbehandlingsprogrammet Word.
– Hvis ikke man skal lære KI-bruk på skolen, hvor skal man da lære det, spør han.
Asser er mer positiv til at det bremses nå, men hun vil ha noe i tillegg.
– Kritisk tenkning må inn i læreplanen samtidig. Det er også en form for beredskap å kunne tenke klokt og forstå hvordan teknologien påvirker oss, sier hun.
Artikkelen ble først publisert på UiA.no
De fleste er ikke klare for KI-agenter
