AI Dungeon

Adventure-spill med AI-motor skapte mørke eventyr med uakseptabel sex

Da spillutviklerne la inn filtre for å hindre at historiene involverte sex med barn, ble konsekvensene ikke helt som tenkt.

AI Dungeon har revolusjonert den tekstbaserte adventure-spillsjangeren ved å ta i bruk en AI-styrt tekstgenerator. Det har også skapt noen uønskede konsekvenser.
AI Dungeon har revolusjonert den tekstbaserte adventure-spillsjangeren ved å ta i bruk en AI-styrt tekstgenerator. Det har også skapt noen uønskede konsekvenser. (Skjermdump: AI Dungeon)

Da spillutviklerne la inn filtre for å hindre at historiene involverte sex med barn, ble konsekvensene ikke helt som tenkt.

Før jul i 2019 gav det amerikanske startup-selskapet Latitude nytt liv til den gamle spillsjangeren tekstbaserte adventure-spill, som var svært populære på den tiden da gutterommene var utstyrt med Commodore 64 og lignende utstyr.

Spillet AI Dungeon gjør det mulig for spilleren å utforme den verdenen spillet foregår i, og rollefiguren sin - men i tillegg har kunstig intelligens sørget for at det ikke var noen begrensninger på hvilke handlinger rollefiguren kunne utføre. Uansett hva spilleren bestemte seg for å gjøre ville AI-motoren ta spillhandlingen videre.

Det viste seg imidlertid at «videre» ofte innebar at historiene AI Dungeon skapte, endte opp i et svært mørkt landskap, selv til adventure-spill å være, skriver Wired.

Les også

Skapte uakseptable historier

I gamle dagers spill - der Dungeons og Dragons er en av klassikerne - hadde utvikleren på forhånd programmert et beslutningstre og lagt inn de mulige ordene spilleren kunne velge blant. Typiske kommandoer ville være «Go north» eller «Get sword», og svaret fra spillet ville være forhåndsbestemt.

I AI Dungeon bruker Latitude i stedet kunstig intelligens, og i fjor sommer tok selskapet i bruk tekstgenereringsalgoritmene i Open AIs tredjegenerasjons autoregressive språkmodell GPT-3 (Generative Pre-trained Transformer) til å produsere en så naturlig spillrespons at den er vanskelig å skille fra tekst skrevet av et menneske.

Spillerne meldte tilbake at kvaliteten på konversasjonen med spillet ble mye bedre, og antall registrerte spillere steg med 25 prosent, noe Open AI selvsagt ikke legger skjul på i sin markedsføring. Mer enn 20.000 spillere er innom hver dag.

Det viste seg imidlertid at å kombinere spillerens ønsker - for ikke å si lyster - og AI-ens tilsynelatende begrensede moralske kompass, raskt førte historiene AI Dungeon skapte, inn i et svært mørkt landskap, selv til adventure-spill å være.

I april ble det innført et nytt system for overvåking av spillet. Det avslørte at enkelte av ordene spillerne brukte i kommandoene de skrev inn, fikk spillet til å generere spillhistorier som involverte sex med barn.

Funnene fikk Open AI til å kreve at Latitude tok grep umiddelbart.

– Å vedta moderering av innhold kan være en vanskelig avgjørelse å ta, men ikke i dette tilfellet. Dette er ikke den utviklingen noen av oss vil at AI skal ta, slo Open AIs toppsjef, Sam Altman fast i en melding fra selskapet.

Les også

«Voksent» innhold fortsatt lov

Latitude kastet seg rundt, og fikk skrudd på et modereringssystem for  AI Dungeon i månedsskiftet april/mai. Spillerne var i harnisk.

Noen klaget over at man ikke lenger en gang kunne skrive om sin «åtte år gamle laptop» uten å få opp en advarsel på skjermen om språkbruken. Andre hadde personvernbekymringer rundt Latitudes planer om å manuelt gjennomgå automatisk merket innhold. De mente det ville medføre snoking i aktivitetene til spillere som hadde laget seg et spillunivers hvor man hadde sex med voksne - noe som ikke er helt uvanlig i AI Dungeon.

Latitude sier at både retningslinjene for hva som skal være akseptabelt innhold i spillet, og filtrene som skal fjerne uakseptabelt innhold er i ferd med å justeres, men selskapet har i en bloggpost lovet at såkalt NSFW-innhold (Not Suitable For Work), med beskrivelser av frivillig voksen sex, vold og banning fremdeles kommer til å være tillatt i spillet.

Det er imidlertid flere som tror det kan bli vanskelig å hindre spillets AI-motor i å produsere noen former for seksuelt innhold og samtidig tillate andre typer. For selv om maskinlæringsalgoritmene i GPT-3 etterligner menneskeskapt innhold på mer enn imponerende vis, så har den ikke særlig kontroll på sosiale og rettslige normer for språkbruk.

Les også

GPT-3 kan til og med kode

Men når det gjelder å skape språklig innhold er det knapt noe som overgår GPT-3. Etter at Open AI gjorde den kommersielt tilgjengelig i fjor sommer har utviklere i ulike teknologiselskaper offentliggjort eksempler på hvordan GPT-3 har diktet sonetter, laget memer som faktisk er morsomme, og til og med skrevet fungerende kode.

Utvikleren Sharif Shameem fant nemlig ut at han kunne bygge en layoutgenerator med GPT-3 inkludert, slik at når du mater den med beskrivelser, så vil språkmotoren i løpet av noen sekunder komme med kode som produserer det du har beskrevet.

Ber du for eksempel generatoren lage en knapp som ser ut som en vannmelon, sørger GPT-3 for at du får en rosa sirkel med en grønn kant. Det er flere eksempler i Twitter-videoen han har lagt ut (under).

 

Andre har imidlertid vist at GPT-3 også er flink til å produsere antisemittisk hets og ekstremistpropaganda.

Les også

Microsoft sikret seg lisens

Likevel er det flere som ser muligheter enn farer i denne bruken av kunstig intelligens, og Microsoft har sikret seg en lisens som gir dem eksklusiv tilgang til GPT-3s underliggende algoritmer.

Teknologigiganten ser nok også for seg at mulighetene teknologien gir vil bli enda flere i senere versjoner av programmet. I hvert fall om sprangene blir like store som da GPT-3 erstattet GPT-2 i fjor sommer. 

Spillerne i AI Dungeon-universet var blant de første til å erfare oppgraderingen av språkmotoren da, og jubelen stod i taket over mer kreativitet og flere muligheter i utviklingen av historiene. I tillegg til en langt bedre språkforståelse.

En av spillerne kommenterte for eksempel at det nå endelig var mulig å bestige en drage uten at historien plutselig tok en svært overraskende vending.

Les også

Kommentarer (1)

Kommentarer (1)
Til toppen