KUNSTIG INTELLIGENS

Oversvømmer egen app med bots for å lure svindlere

Dating-appen ville ha en slutt på tinder-svindlere. Nå flyttes alle svindlere til et eget rom, der de bare møter andre svindlere og «en hær» av usammenhengende chatboter.

Fra full forvirring om alder og yrke, til chatbots som insisterer på at de er en banan. Chatbotene holder svindlerne opptatt, i hvert fall for en stund.
Fra full forvirring om alder og yrke, til chatbots som insisterer på at de er en banan. Chatbotene holder svindlerne opptatt, i hvert fall for en stund. Illustrasjonsfoto: Kitch
2. sep. 2022 - 17:00

Mens Covid sendte amerikanere i til hjemmekarantene, startet tre gründere appen Filteroff, en video-basert speed-dating-tjeneste med slagordet møt folk, ikke profiler.

− Antallet brukere vokste, det samme gjorde svindlere som trakasserte folk for penger, skriver Brian Weinreich, en av grunnleggerne av selskapet i et blogginnlegg.

Mange har nok sett Tinder-svindleren på Netflix, eller selv møtt lovende flørter som brått trenger penger til en reparasjon eller nød-flybillett hjem.

Det kan også være profesjonelle, som lever av å tyne penger av mennesker på jakt etter kjærlighet.

Det lille selskapet kunne ikke «kaste penger etter problemet», og måtte tenke kreativt.

I en ny rapport advarer FN mot misbruk av KI-teknologi til å øke spredningen av usannheter om nazistenes drap på mer enn seks millioner mennesker under andre verdenskrig
Les også

FN: KI kan misbrukes til å fornekte jødeutryddelsene

Egen «skygge-app» for svindlere

Etter å ha observert mønsteret i hvordan svindler-kontoer blir opprettet, lagde utviklerne en algoritme som snapper opp den falske brukeren, plukker dem ut av det vanlige utvalget av single, og legger dem i en eget «dark pool», et eget rom som kun består av andre svindlere, samt boter.

Selskapet har bygget det de selv beskriver som en «bot-hær full av profiler med falske bilder». Botene er basert på tilgjengelig chatbot-teknologi, som lar dem snakke med svindlerne på en, ikke helt, menneskelig måte − med hysteriske konsekvenser.

Fra hvor?

Fra boter som påstår de er 32 år, for å ombestemme seg og bli 52 år, boter som i det ene øyeblikket er sykepleier, det neste lærer og så utvikler, til boten som plutselig insisterer på at den er en banan.

egne nettsider deler selskapet flere av samtalene med de ikke alltid like overbevisende chatbotene.

Brukere som er mistenkte svindlere krangler med chatboten til Filteroff. <i>Skjermbilde:  Filteroff</i>
Brukere som er mistenkte svindlere krangler med chatboten til Filteroff. Skjermbilde:  Filteroff

Et enkelt spørsmål som hvor du bor, kan være vanskelig for en skarve chatbot.

Svindler: − Hvor er du fra kjære?

Bot: − Jeg er fra.

Svindler: − Fra hvor??

Bot: − Fra.

Svindler: − Du vet at det ikke er et stedsnavn ikke sant.

Bot: − Jeg vet at det ikke er et sted! Det er en stat.

Svindler: − Du skrev ikke noe engang, du satte bare punktum.

Bot: − Jeg vet at det er et punktum! Jeg visste ikke hva jeg skulle skrive.

Svindler: − Navnet på staten, eller adressen?

Bot: − Jeg vet ikke adressen.

Svindler: − Hvilken stat er du i nå?

Bot: − Jeg er i.

George Clooney

− Første gang jeg la merke til problemet, var da jeg så at George Clooney hadde laget en profil på Filteroff. Jeg tenkte, «herregud, det her er vilt, Jeg kan ikke tro…». Så så jeg nærmere på profilen, sier Weinreich i et intervju med Techcrunch.

Han skjønte at Clooney nok ikke er en 34-åring fra Nigeria. Weinreich slettet profilen, men svindlerprofilene fortsatte å dukke opp.

For hver falske profil de slettet, dukket det opp fem nye. Teamet trengte en måte å holde svindlerne unna de seriøse brukerne, uten at de la merke til det, og som med en gang registrerte nye brukere.

Det lille teamet lagde en kodesnutt som brukte mønstre de hadde lagt merke til, for å sortere brukere i «ekte» mennesker og sannsynlige svindlere.

Mulig å rapportere svindlere

I appen kan brukere rapportere om andre brukere som ser ut til å være svindlere. Dette gir en mulighet til å forbedre algoritmen.

− Det morsomste med denne funksjonen er antallet rapporter vi får fra svindlere som rapporterer at de snakker med en bot. Og jeg bare, «ja, det er poenget», sier Weinreich til Techcrunch.

Illustrasjonsbilde.
Les også

Over 20 milliarder i bot

Del
Kommentarer:
Du kan kommentere under fullt navn eller med kallenavn. Bruk BankID for automatisk oppretting av brukerkonto.