Microsoft nekter å selge denne teknologien til myndighetene i flere land

DUBLIN, IRLAND (digi.no): De fleste kommersielle virksomheter ønsker å selge sine produkter til flest mulig. Men det finnes unntak.

For eksempel har Microsoft sagt nei til flere kunder som har ønsket å bruke selskapets AI-baserte ansiktsgjenkjenningsteknologi i nye systemer.

Dette fortalte selskapets personverndirektør Julie Brill, under Data Summit Dublin som ble arrangert i forrige uke, i et foredrag om kunstig intelligens.

Etter det digi.no erfarer er det myndighetene i enkelte land som Microsoft skal ha sagt nei til.

Etter alt å dømme er det mangel på regler for bruken av teknologien, som har vært hovedårsaken til at selskapet har sagt nei.

Digi.no har ikke fått vite hvilke land det er snakk om.

Det kan for eksempel oppleves som stor forskjell på et system for ansiktsgjenkjenning som registrerer alle som går forbi et gitt kamera, og ett som bare registrerer at visse utvalgte personer har passert.

Løser utfordringer og skaper nye

Under foredraget sa Brill at kunstig intelligens (AI – Artificial Intelligence) kan brukes i møtet med noen av menneskehetens største utfordringer, som effektiv matproduksjon og sykdomsbekjempelse, så innebærer teknologien også egne utfordringer.

– Store endringer er alltid fulgt av usikkerhet og at noe fortrenges til fordel av noe annet. Gammel industri blir foreldet og erstattet. Samtidig har dette bidratt til bedre levestandard for svært mange, sa Brill.

Det er likevel spørsmålene rundt etikk og verdier som Brill i særlig grad tok opp.

– Microsoft ser at maskiner med kognitive beslutningsevner leder til viktige spørsmål angående verdier og etikk. Vi må lage systemer som folk stoler på. Må ha en «mennesket i sentrum»-tilnærming til AI. AI skal ikke erstatte mennesker, men utvide menneskenes talent og muligheter. Dette krever blant annet klar informasjon om hvordan systemene fungerer og at noen har ansvaret, sa hun.

Egne prinsipper

Brill fortalte at Microsoft har forfattet et sett med prinsipper for kunstig intelligens.

– Det kreves rettferdighet, at alle behandles med verdighet og respekt. Forutinntatthet og fordommer må identifiseres. Systemene må være pålitelige og trygge, siden de tar beslutninger som ofte berører mennesker. De må også være inkluderende, må kunne brukes av og omfatte alle, fortsatt hun.

Samtidig understreket hun at dette er Microsofts prinsipper.

– Det kan være andre og bedre prinsipper, la Brill til.

Brill sa også at samfunnet må ha reguleringer for slik teknologi, men med måtehold.

– Det er ikke lenger nok å trykke på for å se hva teknologi kan gjøre. Vi må også vurdere hva teknologi bør gjøre og ikke bør gjøre. Men hvis vi overregulerer, kan vi gå glipp av mulighetene, sa hun og fortalte av hun ønsker seg en slags «GDPR» for AI-etikk, hvor etikk er den innebygde standarden i AI-systemene.

– Men hvem sine verdier skal bygges inn? Vi lever i en global verden. Hvem sine verdier er mest verdt, spurte hun retorisk.

Bedre forklaring

Noe av debatten rundt AI-systemer har handlet om at de er forutinntatte. Både for å avgjøre om de er det, og for å løse det, trenger systemene enda mer data enn de får i dag, sa Brill.

Et annet krav som har blitt nevnt i tilknytning til AI-systemer, handler om innsikt i hvordan systemets algoritmer egentlig fungerer. Brill er bare delvis enig i dette kravet.

– De færreste vil ha glede av hva som egentlig foregår inne i AI-boksen. Men de vil kunne ha glede av å vite hva som skjer med utdataene, dersom inndataene endres på den eller den måten. Det er en sterk måte å forklare det på, som forteller en historie, sa Brill.

Saken fortsetter under bildet.

Etter foredraget deltok Brill i en paneldebatt hvor blant annet Corey Salsberg deltok. Salsberg er global sjef for opphavsrett hos det sveitsiske bioteknologiselskapet Novartis.

Angående Brills diskusjon rundt hvilke verdier som bør brukes i forbindelse med kunstig intelligens, sa Salsberg at slike forskjeller også er kjente innen helt andre områder av vitenskapen.

– For eksempel er det allerede store forskjeller i synet på kloning, påpekte han.

Opphavsrett?

Videre sa Corey at bruk av kunstig intelligens kan bidra til å redusere tiden og kostnadene forbundet med utviklingen av nye medisiner, blant annet gjennom optimalisering av testene. Men han ser for seg at det kan oppstå spørsmål om opphavsretten til medisinene.

Han viste til historien om apen Naruto, som i 2008 hadde tatt flere fotografier av seg selv med utstyret til den britiske naturfotografen David Slater. Etter hvert ble det strid om hvem som hadde opphavsretten til bildene, Slater eller Naruto. I april i år vedtok en amerikansk domstol at dyr ikke kan ha opphavsrett.

– Kan en kunstig intelligens være en oppfinner når et dyr ikke kan være det?

Overdrevet i begge retninger

En annen deltaker i paneldebatten var informatikkprosessoren Barry O’Sullivan ved University College Cork, som er visepresident i European Artificial Intelligence Association.

Han mener at den frykten mange har for kunstig intelligens, er helt ubegrunnet og handler om misforståelser.

– Du trenger ikke være redd for AI. Mange ser ut til tro at AI har en eller annen «magisk» del ved seg. Dagens AI-systemer har blitt mulige på grunn av store mengder data. De forstår ingenting om verden rundt dem. Vi er heller ikke i nærheten av dette. Ingenting er dummere enn data, altså rå informasjon, sa O’Sullivan.

– Ingen i dag kommer til å bygge AI som vil utrydde menneskeheten. AI vil heller ikke erstatte mennesker. Det handler om automatisering eller utvidelse av kapasiteter. Mange forstår ikke hva AI kan gjøre, men heller ikke hva det ikke kan gjøre. Det er overdrevet i begge retninger, sa han.

Les også: Google setter tydelige grenser for selskapets bruk av kunstig intelligens