Deepfake

Nå kan Facebook identifisere deepfake-videoer med ett bilde

Et program utviklet av forskere fra Facebook og Michigan State University (MSU) kan identifisere deepfake-videoer og hvor de kommer fra.

Facebook og Michigan State University har sammen utviklet en AI som kan identifisere deepfake-videoer.
Facebook og Michigan State University har sammen utviklet en AI som kan identifisere deepfake-videoer. (Illustrasjonsfoto: REUTERS TV/NTB)

Et program utviklet av forskere fra Facebook og Michigan State University (MSU) kan identifisere deepfake-videoer og hvor de kommer fra.

Det blir lettere og lettere å lage gode deepfake-videoer og -lyd, og det blir vanskeligere og vanskeligere å identifisere dem. I januar 2020 annonserte Facebook på sin egen blogg at de gjorde det ulovlig å legge ut deepfake-videoer som ikke var tydelig merket eller var parodi eller satire.

Nå har Facebook og forskere fra Michigan State University kommet ett steg videre i kampen mot deepfake-videoer og falske nyheter. Sammen har de laget et program som bruker kunstig intelligens (AI) for å identifisere om noe er en deepfake-video og hvor den kommer fra, skriver CNBC

Ifølge CNBC påstår Facebook at programvaren kun ved hjelp av et stillbilde eller en bilderute fra en video kan identifisere om det er en deepfake-video og hvilken AI-modell den kommer fra. Uansett teknikk.

Nokså pålitelig 

Dette kan være nyttig teknologi nå som deepfake-video og -lyd blir mer og mer realistiske. Senest i april i år ble deepfake-video brukt til å lure parlamentsmedlemmer i Nederland og Estland til å tro at de videochattet med en ekte person mens det egentlig var en AI-generert person.

Den kunstige intelligensen som nå er utviklet  kan se på et bilde og fortelle deg nokså presist hvilken AI som har laget den falske videoen, forteller forskningsleder hos Facebook Tal Hassner til CNBC.

Programvaren er bygget på tidligere forsking gjort på MSU som kan identifisere en kameramodell ved å se på bilder.

Les også

Kan bekjempes

Selv om programmet til Facebook og MSU fungerer uavhengig av teknisk løsning, er det hovedsakelig bygget for deepfake-videoer som manipulerer allerede eksisterende innhold. Programmet kan også ha noe dårligere ytelse når det analyserer videoer der det kun er områder som er analysert.

Hassner innrømmer at selv om programvaren er god, er det nok mulig å klare å omgå den.

– Om det er mulig å slå vårt system? Det vil jeg anta, forteller han til CNBC.

Det er foreløpig uklart om Facebook kommer til å bruke programvaren på sine plattformer.

Les også

Kommentarer (1)

Kommentarer (1)
Til toppen