Denne nettleseren skal oppdage «deepfakes» på nettet med 98 prosent nøyaktighet

KI-utviklingen går unna i et forrykende tempo, noe som også gjør det mer krevende å gardere seg mot de mange truslene og farene som teknologiene bringer med seg. Et britisk selskap har nå gjort et nytt fremstøt på denne fronten.

Et ungt oppstartsselskap ved navn Surf Security kunngjorde på onsdag at de har lansert et nettleserverktøy som automatisk kan oppdage såkalte «deepfakes» i sanntid – en av de mest fremtredende KI-truslene på nettet.

Nettstedet The Next Web er blant dem som har skrevet om saken.

Oppdages på to sekunder

Det nye verktøyet, kalt «Deepwater», er bygget inn i selskapets bedriftsrettede nettleser Surf Security Enterprise-nettleser, som allerede er en såkalt «zero trust»-nettleser med et stort fokus på sikkerhet.

Verktøyet bruker kunstig intelligens til å oppdage med 98 prosent nøyaktighet hvorvidt en person er et ekte menneske eller en KI-generert imitasjon, hevder selskapet selv. Det skal være det første verktøyet i sitt slag i verden.

– For å maksimere effektiviteten fokuserte vi på nøyaktighet og hastighet. Verktøyets nevrale nettverk er trent med «deepfakes» generert av de beste plattformene for KI-basert stemmekloning, har en integrert funksjon for bakgrunnsstøyreduksjon som fjerner støy fra lydopptak før behandling og kan gi en vurdering på under to sekunder, sier teknologisjef hos Surf Security, Ziv Yankowitz, i en pressemelding.

Verktøyet skal fungere med alle lydkilder i nettleseren, inkludert videoer som spilles av og kommunikasjonsplattformer som Slack, Zoom og Microsoft Teams. Det skal være enkelt i bruk, og brukeren trenger kun å klikke på en knapp for å verifisere hvorvidt kilden er ekte eller KI-generert.

Raskt voksende trussel

De tekniske detaljene bak selve virkemåten er noe sparsomme, men Surf Security sier de har benyttet teknologi på «militærnivå» og nye, fremvoksende teknologier som er i stand til å oppdage KI-representasjoner på tvers av språk og aksenter.

Løsningen fungerer i korte trekk ved å «modellere sannsynlighetsforhold» mellom lydsegmenter for å avdekke inkonsistenser.

Dersom man er interessert i å teste verktøyet, kan man sette seg på en venteliste for betaversjonen på denne siden. Det ferdige produktet er ventet å bli lansert i løpet av første kvartal neste år.

Surf Security peker på at «deepfake»-basert svindel øker i eksplosivt tempo, og bare i USA skal denne type svindel ha økt med over 300 prosent det siste året. I Portugal har det økt med hele 1700 prosent.

Tidligere har Digi for eksempel skrevet om en sak hvor svindlere lurte til seg svimlende 270 millioner kroner fra et større selskap ved hjelp av datagenererte utgaver av flere viktige personer i et videomøte.