Lanserer trygg samtaleoversetting i sanntid for bedrifter og myndigheter

Se for deg en situasjon på et legekontor eller en politistasjon der legen eller politibetjenten har en formell samtale med en person som verken kan norsk eller engelsk. Begge snakker sitt eget språk. Mer imponerende er det at begge også forstår det samtalepartneren sier.

Situasjonen kan være en realitet allerede i år, sier Thordur Arnason, global leder for generativ kunstig intelligens i Capgemini Invent.

Tirsdag demonstrerer han nemlig en nær sanntid stemme-til-stemme-oversettelsestjeneste under World Mobile Congress i Barcelona. Den er ikke bare rask nok til at den kan brukes i en samtale, men også sikker nok til at den skal kunne brukes i sammenhenger der det er viktig at det som sies behandles på en trygg måte, forteller Arnason.

B2B og offentlig sektor

Babelspeak, som tjenesten er døpt, kan oversette til og fra 106 språk så raskt at det ikke oppfattes som unaturlig i en samtale. I praksis snakker vi om en forsinkelse på 350 millisekunder.

Men for de 2-3 pilotkundene fra offentlig sektor som Capgemini skal utvikle oversetteren og utforske markedet med fram mot sommeren, er det like viktig at samtalene som oversettes, kan dokumenteres, kontrolleres og at samtaledataene forblir trygge.

– Vi kan neppe konkurrere med Google Translate som gratistjeneste, og selv om vi i dag nikker helt framme med de beste i verden når det kommer til sanntid, er det umulig å si hvor raske tjenester andre lanserer i morgen. Men konfidensialitet og trygghet kommer det til å bli vanskelig å konkurrere oss ut på, sier Arnason.

Han poengterer at det er B2B-markedet og offentlig sektor de først og fremst henvender seg til, men det er ikke umulig at en tjeneste bygget på oversetteren for eksempel gjør det mulig for privatpersoner å snakke norsk i telefonen sin mens samtalepartneren hører spansk i andre enden.

Slike tjenester har allerede begynt å finne veien til folks mobiltelefoner, men foreløpig er ikke norsk inkludert.

Samarbeid med Telenor og Nvidia

Capgemini gjennomfører MWC-demonstrasjonen tirsdag sammen med Telenor og Nvidia. Telenor er med fordi mye av utviklingen av oversetteren er gjort på Telenors AI Factory. Den åpnet i november, men Arnason forteller at de begynte samarbeidet med Telenor allerede på sensommeren i fjor.

– En tjeneste som Babelspeak må kjøres i et pålitelig miljø, og Telenors AI Factory kan krysse av i alle boksene. En autonom, bærekraftig og sikker KI-sky er akkurat det vi trenger i de mest sensitive situasjonene. Man vil aldri måtte lure på hvor dataene blir av. De blir værende ikke bare i Norge, men på et datasenter i Oslo-regionen, forklarer han.

Telenors AI Factory er basert på NVIDIAs databehandlingsplattform for KI, og Capgemini har i tillegg brukt Nvidias språkmodeller og andre av modellene og tjenestene i Nvidias Riva-portefølje.

Gjennombrudd i sanntid

Arnason forteller at den første brukercasen de testet oversetteren på, i februar-mars i fjor, var DnB, der kunderådgivere skulle kunne snakke med ukrainske flyktninger uten engelskkunnskaper som hadde behov for banktjenester. Den fungerte helt som den skulle, men ikke helt i sanntid.

– Vi hadde klart å få ned forsinkelsen til to sekunder på ren entusiasme, sier Arnason. – Men gjennombruddet har kommet de siste få månedene, etter at vi begynte å samarbeide med Telenor og Nvidia. De har kastet inn sine beste folk i dette prosjektet, og det er jeg glad for.

Arnason forteller imidlertid at han har jobbet med Babelspeak-oversetteren siden august 2023. Da så han en demonstrasjon av Metas Seamless M4T-kjernemodell over taleoversetting mellom to språk, og skjønte at det han nå skal presentere kunne være mulig å få til.

– Det er mye luftig prat om KI i dag, men dette er noe konkret og betydningsfullt. En oversetter som Babelspeak kan faktisk løse viktige ting i verden. Derfor har jeg vært manisk opptatt av dette siden jeg så den Meta-demonstrasjonen. Vi har beveget oss et godt stykke fra det utgangspunktet, men det var inspirasjonen, sier Capgeminis KI-sjef.