Smuss-filter blokkerer alt annet enn smuss

Da selskapet Exotrope lanserte smuss-filteret BAIR i mars i fjor, var det mange som ble imponert over intelligent filtreringsteknologi. Men, som mange andre liknende filtre, fungerer det ikke så bra. Hundebilder blir blokkert, mens pornografiske bilder blir akseptert.

Exotrope mottok, ifølge Wired News, flere priser for utviklingen av dette smuss-filtret.

Wired News har gjennomført en undersøkelse som avslører at BAIR-filterets kunstige intelligens ikke alltid virker like bra som den burde.

Wired News har testet filteret på hundrevis av bilder, og mange av dem ble feilaktig blokkert. Blant annet ble portretter, landskap, dyrebilder og gatebilder blokkert. Filteret hindret brukerne i å se på nyhetsbilder fra blant annet time.com og newsweek.com, mens bilder av oralsex og gruppesex ble akseptert.

Flere andre filtre har imidlertid samme problemet.
Les mer om dette her:
Porno, narko og bombe-oppskrifter til barn
Exotrope kan ikke forklare programmets merkelige oppførsel. En talsmann for selskapet innrømmer overfor Wired at det er noe galt. At det ikke er slik bilde-filteret skal fungere.


Selskapet hevder å ha oppfunnet "industriens mest avanserte programvare-system for intelligent blokkering av bilder med seksuelt innhold". BAIR står for Basic Artificial Intelligende Routine.

Exotrope påstår også at filteret har virket fint tidligere.

Eksperter på kunstig intelligens mener at å lære opp neurale nettverk til å fungere på den måten som BAIR tilsynelatende gjør, er så godt som umulig. Enda mer hardnakkede motstandere beskylder Exotrope for å ha lurt både journalister og politikere til å tro på feilaktig informasjon om avansert kunstig intelligens.

En av grunnene til at filteret ikke virker som det skal er at de på forhånd har laget en liste over sider som skal filtreres vekk.

Hvis et blide kommer fra en av disse "bannlyste" sidene, eller hvis filnavnet inneholder ordet sex, vil BAIR automatisk blokkere det. Filteret blokkerer også tilgang basert på søkeord som befinner seg andre steder på siden.

Wired News test av programmet avslørte at mellom 90 og 95 prosent av bildene ble blokkert uten å ta hensyn til om de hadde et seksuelt innhold eller ikke. I tillegg hadde halvparten av de aksepterte bildene pornografisk innhold.

BAIR blokkerte bilder av Snoopy, båter, solnedganger, hunder og grønnsaker, mens svært pornografiske bilder gikk rett igjennom.

Problemet er å få kunstig intelligens til å se forkjell på en pen og pyntelig dame i bikini som står på en seilbåt, og en vulgær dame uten bikini som står på en seilbåt.

For den som ønsker det, kan filteret lastes ned her.

Til toppen