kunstig intelligens
Chatbot fant opp refusjonsordning. Nå må selskapet punge ut
«Chatboten er en adskilt juridisk enhet, som er ansvarlig for sine egne handlinger», skal flyselskapet ha argumentert i retten. De ble ikke hørt.
Foto: Armando Franca/ NTB
Siden mars i fjor har det kanadiske flyselskapet Air Canada brukt en chatbot basert på generativ kunstig intelligens. Målet var å frigjøre tid, så kundebehandlerne kunne jobbe med mer komplekse saker. Med tiden skulle boten også kunne ta over mye av jobben deres, mente selskapet.
Det var bare ett problem. Store språkmodeller som Chat GPT kan hallusinere, altså generere tekst som ser tilforlatelig ut, men som ikke er sann. Og ganske riktig, Air Canadas chatbot fant opp en refusjonsordning for flybilletter kjøpt i forbindelse med dødsfall i nærmeste familie.
Etter å ha bestridt kravet fra kunden i månedsvis, må flyselskapet nå betale deler av den oppdiktede refusjonen. Du har ansvar for hva chatboten din lover, fant kanadisk rett.
