Chatbot fant opp refusjonsordning. Nå må selskapet punge ut

Siden mars i fjor har det kanadiske flyselskapet Air Canada brukt en chatbot basert på generativ kunstig intelligens. Målet var å frigjøre tid, så kundebehandlerne kunne jobbe med mer komplekse saker. Med tiden skulle boten også kunne ta over mye av jobben deres, mente selskapet.

Det var bare ett problem. Store språkmodeller som Chat GPT kan hallusinere, altså generere tekst som ser tilforlatelig ut, men som ikke er sann. Og ganske riktig, Air Canadas chatbot fant opp en refusjonsordning for flybilletter kjøpt i forbindelse med dødsfall i nærmeste familie.

Etter å ha bestridt kravet fra kunden i månedsvis, må flyselskapet nå betale deler av den oppdiktede refusjonen. Du har ansvar for hva chatboten din lover, fant kanadisk rett.

Det melder blant annet Ars Technica.

− En adskilt juridisk enhet

Det er ikke uvanlig at flyselskap tilbyr rabatt om du må reise på grunn av et dødsfall i nær familie.

Da Jake Moffat mistet bestemoren sin, gikk han inn på nettsidene til Air Canada for å bestille en flybillett fra Vancouver til Toronto. Først spurte han chatboten hvordan rabattordningen til selskapet fungerte.

Chatboten svarte at Moffat burde bestille billett med det samme, for så å be om refusjon innen 90 dager.

Det er det stikk motsatte av det som står klart og tydelig i flyselskapets retningslinjer et annet sted på nettsidene. Skal du be om rabatt, må du ringe selskapet før du booker turen.

Derfor avviste selskapet refusjonskravet fra Moffat, til tross for at han hadde skjermbilder som viste hva chatboten hadde fortalt ham. Saken endte i kanadisk rettsvesen.

− Moffat burde ikke ha stolt på chatboten, og flyselskapet kan ikke stilles ansvarlig for det chatboten sier, mente flyselskapet.

«Chatboten er en adskilt juridisk enhet som er ansvarlig for sine egne handlinger», skal flyselskapet ha argumentert i retten.

Retten kunne ikke se at det var tydelig at Moffat skulle kunne stole mer på én del av nettsidene enn på en annen.

− Tar ikke bort behovet for sannhet

Chatbot-teknologien har vært med oss lenge, og etter at Chat GPT tok verden med storm høsten 2022, var det mange som mente det ville revolusjonere kundebehandlingen.

Norges kanskje mest kjente chatbot, Kommune-Kari, lar seg likevel ikke true av store språkmodeller.

− Den teknologien er jo litt mind-blowing, men den tar ikke bort behovet for sannhet, sa Richard Hovdsveen, direktør for vekst i selskapet Sem og Stenersen Prokom, som tilbyr samtaleroboten basert på Boost AIs teknologi, til Digi i fjor sommer.

Han pekte spesielt på én ting som gjør at teknologien i Chat GPT ikke kan erstatte tradisjonelle chatboter:

− Kommune-Kari kan ikke finne på ting.

Tradisjonelle chatboter er trent til å finne et relevant svar fra en predefinert katalog av korrekte fakta eller spørsmål. Store språkmodeller er trent til å finne mest sannsynlige neste ord og neste svar, gitt sammenhengen. Dermed kan den hallusinere, altså dikte opp usannheter.

Denne egenskapen vil skaperne av Kommune-Kari aldri slippe løs på innbyggerne.